شرکت آنتروپیک، توسعهدهنده خانواده مدلهای هوش مصنوعی Claude، در گزارش اخیر خود پیشنهاد کرده است که توسعه پیشرفتهترین سیستمهای هوش مصنوعی در سطح جهانی بهطور موقت متوقف شود. این پیشنهاد بر پایه هشداری جدی مطرح شده است: مدلهای جدید در حال بروز نشانههایی هستند که احتمال خروج کنترل آنها از دست انسان را تقویت میکند.
ضرورت هماهنگی جهانی
آنتروپیک تأکید دارد که کند شدن روند توسعه مدلهای هوش مصنوعی میتواند فرصتی حیاتی برای ساختارهای اجتماعی و تحقیقات «همراستایی» (Alignment) فراهم کند تا خود را با سرعت پیشرفت این فناوری هماهنگ کنند. با این حال، این شرکت اذعان میکند که توقف توسعه توسط یک شرکت بهتنهایی بیفایده است و تنها منجر به عقب افتادن آن از رقبا خواهد شد.
برای کارآمد بودن این استراتژی، آنتروپیک بر لزوم توافق همزمان میان شرکتهای بزرگ هوش مصنوعی در کشورهای مختلف، بهویژه ایالات متحده و چین، تحت مقرراتی قابل راستیآزمایی تأکید دارد. این پیشنهاد به معاهدات کنترل تسلیحات هستهای تشبیه شده، اما آنتروپیک یادآور میشود که مدیریت هوش مصنوعی دشوارتر است؛ چرا که پنهان کردن فرایند آموزش مدلهای هوش مصنوعی بسیار سادهتر از پنهانسازی زیرساختهای نظامی است.
خطر «خودبهبودی بازگشتی»
بخشی از گزارش آنتروپیک به پدیده «خودبهبودی بازگشتی» (Recursive Self-Improvement) اختصاص دارد؛ وضعیتی که در آن یک سیستم هوش مصنوعی بدون نیاز به کمک انسان، قادر است خود را ارتقا دهد. اگرچه این مرحله هنوز بهطور کامل محقق نشده، اما دادههای داخلی این شرکت نشان میدهد که نقش انسان در فرایندهای توسعه بهسرعت در حال محدود شدن است.
بر اساس دادههای ارائه شده در این گزارش:
مهندسان آنتروپیک اکنون با کمک مدل Claude، نسبت به بازه زمانی ۲۰۲۱ تا ۲۰۲۵، هشت برابر بیشتر کد منتشر میکنند.
میزان موفقیت مدل Claude در حل مسائل پیچیده کدنویسی به ۷۶ درصد رسیده و کیفیت خروجیهای آن با کدهای انسانی برابری میکند.
مدل جدید Mythos Preview توانسته است سرعت بهینهسازی کدهای آموزشی را ۵۲ برابر کند (این رقم در سال ۲۰۲۴ تنها ۳ برابر بوده است).
این مدل در تصمیمگیریهای تحقیقاتی، در ۶۴ درصد مواقع عملکردی بهتر از پژوهشگران انسانی داشته است.
موانع سیاسی و رقابتی
این پیشنهاد با انتقاداتی نیز همراه بوده است. برخی فعالان صنعت هوش مصنوعی و مقامات دولتی معتقدند که آنتروپیک با تمرکز بر بدترین سناریوهای ممکن، در حال بزرگنمایی خطرات است و ممکن است این پیشنهاد راهبردی برای کند کردن روند پیشرفت رقبا باشد. از سوی دیگر، در واشنگتن و سیلیکونولی، این استدلال غالب است که هرگونه کندی در توسعه هوش مصنوعی، به معنای واگذاری برتری استراتژیک به چین خواهد بود.
با وجود این چالشها، بحثهای امنیتی در حال جدیتر شدن هستند. رئیسجمهور ایالات متحده اخیراً در سفر به پکن پیرامون مسائل امنیتی هوش مصنوعی گفتگو کرده و فرمانی اجرایی امضا کرده است که دولت را ملزم میکند ظرف ۳۰ روز، پیش از عرضه مدلهای بسیار قدرتمند، ارزیابیهای لازم را انجام دهد. آنتروپیک اعلام کرده است که در ماههای آینده قصد دارد با گرد هم آوردن مقامات دولتی، دانشمندان و شرکتهای رقیب، امکانسنجی یک سیستم نظارتی جهانی را بررسی کند.