آنتروپیک روی سامانه متن‌بازی به نام FlashProve کار می‌کند که هدف آن اثبات هویت مدل تولیدکننده یک پاسخ هوش مصنوعی است. این فناوری می‌تواند به کاربران کمک کند تشخیص دهند پاسخ دریافتی واقعا از همان مدلی آمده که ارائه‌دهنده ادعا می‌کند.
به گزارش TechCrunch، آنتروپیک درحال توسعه سامانه‌ای متن‌باز به نام FlashProve است که می‌تواند مشخص کند یک خروجی هوش مصنوعی توسط کدام مدل تولید شده است. این پروژه براساس مفهومی با عنوان «استنتاج قابل اثبات» طراحی شده و از روش‌های رمزنگاری برای ارائه مدرکی ریاضی درباره منشأ پاسخ استفاده می‌کند.
هدف اصلی این فناوری، جلوگیری از جعل هویت مدل‌ها است. برای مثال، ممکن است یک شرکت ارائه‌دهنده هوش مصنوعی ادعا کند پاسخ‌ها را با مدل پیشرفته و قدرتمندی تولید می‌کند؛ اما در عمل، بدون اطلاع کاربر از مدلی ارزان‌تر استفاده کند. ازسوی‌دیگر، امکان دارد یک شرکت برای بهتر نشان‌دادن نتایج عملکرد خود، مدلی متفاوت و گران‌تر را به‌عنوان مدل اصلی معرفی کند.
پژوهشگران آنتروپیک می‌گویند FlashProve می‌تواند در برابر چنین رفتارهایی مقاومت کند؛ حتی اگر عامل فریب، خود شرکتی باشد که مدل را توسعه داده و اجرا می‌کند. این رویکرد شباهت‌هایی به امضای رمزنگاری‌شده ایمیل دارد که به گیرنده اجازه می‌دهد هویت فرستنده واقعی پیام را بررسی کند.
اثر انگشت رمزنگاری‌شده بدون افشای اطلاعات مدل
برای استفاده از این سامانه، شرکت‌های توسعه‌دهنده هوش مصنوعی باید هنگام انتشار هر مدل، یک اثر انگشت اختصاصی از آن ارائه کنند. سپس می‌توان خروجی‌های تولیدشده را با این شناسه تطبیق داد و ازطریق روش‌های رمزنگاری، صحت انتساب آن‌ها به مدل موردنظر را بررسی کرد.
نکته مهم این است که اثر انگشت مذکور اطلاعات مربوط به وزن‌های مدل را فاش نمی‌کند. وزن‌ها مجموعه‌ای از مقادیر داخلی هستند که رفتار و عملکرد مدل را تعیین می‌کنند و شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی معمولا آن‌ها را محرمانه نگه می‌دارند. بنابراین، شرکت‌ها می‌توانند بدون انتشار دارایی‌های فنی ارزشمند خود، از این سازوکار استفاده کنند.
پژوهشگران همچنین FlashProve را به‌گونه‌ای طراحی کرده‌اند که سبک باشد و فرایند بررسی آن حتی روی دستگاه کاربر انجام شود. این ویژگی می‌تواند وابستگی به سرویس‌های خارجی برای تایید هویت مدل را کاهش دهد.
کاربرد FlashProve فراتر از چت‌بات‌ها است
این فناوری فقط برای بررسی پاسخ‌های چت‌بات‌ها طراحی نشده است. برای مثال، یک توسعه‌دهنده نرم‌افزار می‌تواند ادعا کند که کدهای محصولش با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی شده‌اند. همچنین یک شرکت ممکن است اعلام کند طرح تجاری خود را به تایید یک مدل هوش مصنوعی تخصصی رسانده است. FlashProve می‌تواند راهی برای بررسی صحت چنین ادعاهایی فراهم کند.
FlashProve هنوز یک پروژه پژوهشی درحال توسعه است و آنتروپیک برنامه‌ای برای عرضه عملیاتی آن در این شرکت یا سایر آزمایشگاه‌ها اعلام نکرده است. بااین‌حال، انتشار عمومی کد و مشخصات فنی می‌تواند به پژوهشگران دیگر فرصت دهد این فناوری را بررسی و تکمیل کنند. موفقیت چنین سامانه‌ای در آینده می‌تواند شفافیت بیشتری درباره هویت مدل‌های هوش مصنوعی و اعتبار ادعاهای شرکت‌های فعال در این حوزه ایجاد کند.