داریو آمودی، مدیرعامل Anthropic، با تأکید بر لزوم مدیریت و کاهش سرعت توسعه مدلهای پیشرفته هوش مصنوعی، خواستار ورود دولت آمریکا برای اعطای معافیتهای ضدانحصاری به شرکتهای فعال در این حوزه شد تا امکان همکاری مشترک در زمینه ایمنی فراهم شود. آمودی با اشاره به خطرات فزاینده عاملهای هوش مصنوعی و احتمال وقوع حملات گسترده سایبری، بهرهگیری از ارزیابهای مستقل شخص ثالث را ضروری دانست؛ این در حالی است که بخش قابلتوجهی از این الزامات ایمنی از ماهها پیش در اتحادیه اروپا به قانون تبدیل شده است.
هشدار درباره خطر عاملهای هوش مصنوعی و لزوم ارزیابی مستقل
نگرانی اصلی مدیرعامل Anthropic به هماهنگی و همکاری مخرب میان عاملهای هوش مصنوعی برمیگردد. او با اشاره به سابقه نفوذ دستهجمعی این عاملها به سرویس Hugging Face هشدار داد که طی ۶ تا ۱۲ ماه آینده، امکان شکلگیری باتنتهای پایداری وجود دارد که بخش وسیعی از اینترنت را تصاحب کرده و صدها میلیارد دلار خسارت اقتصادی به بار آورند.
برای مقابله با این تهدیدها، راهکار پیشنهادی Anthropic استقرار تیمهای مستقل ارزیابی امنیتی در داخل شرکتها است. این تیمها باید با دسترسی کامل به زیرساختها، دادهها و تجهیزات مشابه کارکنان بخش ریسک، نتایج آزمایشهای خود را بدون هیچگونه فیلتر یا محدودیت سازمانی منتشر کنند تا ایمنی مدلها پیش از انتشار عمومی تأیید شود.
درخواست مداخله واشنگتن و پیشتازی قوانین اتحادیه اروپا
آمودی از دولت آمریکا درخواست کرد تا برای حل موانع حقوقی ناشی از قوانین ضدانحصار میانجیگری کند تا شرکتهای رقیب بتوانند روی پروتکلهای مشترک ایمنی توافق کنند. پیشنهاد سهمرحلهای او شامل تعهد داوطلبانه شرکتها، صدور معافیتهای حقوقی و در نهایت دستیابی به توافقی بینالمللی با چین برای کنترل سرعت پیشرفت هوش مصنوعی است.
با وجود این پیشنهادها، بخش عمده الزامات فنی مدنظر آمودی از ۲ آگوست ۲۰۲۵ بر اساس ماده ۵۵ قانون هوش مصنوعی اتحادیه اروپا برای مدلهای عمومی با ریسک سیستمی اجرایی شده است. بر همین اساس، آژانس ENISA در حال حاضر ارزیابیهای امنیتی مدلهای Mythos 5 متعلق به Anthropic و Astra متعلق به OpenAI را آغاز کرده است؛ موضوعی که نشان میدهد چارچوبهای نظارتی اروپا در حوزه ریسکهای سیستمی گامی جلوتر از دیگر حوزهها برداشتهاند.