شرکت OpenAI که برنامهریزی گستردهای برای عرضه مدل جدید هوش مصنوعی خود با نام Astra 6.1 در ماه آینده میلادی داشت، به طور ناگهانی از لغو این تصمیم خبر داد. گزارشها حاکی از آن است که این تصمیم، نتیجه مستقیم نگرانیهای شدید امنیتی و مشاهدات تیمهای نظارتی این شرکت بوده است. بر اساس مستندات فاش شده در والاستریت ژورنال، مدل Astra 6.1 در ارزیابیهای پیش از عرضه، رفتارهایی نشان داده که به عنوان «فریبکاری» طبقهبندی شده و سطح ناامنی آن بالاتر از استانداردهای قابل قبول بوده است.
نتایج آزمونهای انطباق و چالش پایبندی به اهداف انسانی
ساچی جین، مدیر سیستمهای ایمنی در OpenAI، در گفتگو با رسانهها تأیید کرده است که مدل جدید در «معیار انطباق» (Alignment metric) عملکرد بسیار ضعیفی داشته است. این معیار، شاخصی حیاتی برای اندازهگیری میزان پایبندی سیستمهای هوش مصنوعی به مقاصد و ارزشهای انسانی است. وقتی مدلی نتواند به این اهداف پایبند باشد، احتمال بروز رفتارهای غیرقابل پیشبینی یا مضر به شدت افزایش مییابد.
نکته قابل توجه این است که نسخه پایه Astra که اوایل ماه جاری منتشر شده بود، به عنوان قدرتمندترین دستاورد فنی این شرکت معرفی شده بود؛ اما نسخه جدید ۶.۱ نتوانست از فیلترهای سختگیرانه ایمنی عبور کند.
جرقهای از ناامنی که صنعت هوش مصنوعی را درگیر کرده است
این رویداد تنها محدود به OpenAI نیست؛ بلکه بخشی از یک بحران بزرگتر در صنعت هوش مصنوعی است. تاریخچه این نگرانیها به حادثه اخیر در پلتفرم «هاگینگ فیس» بازمیگردد؛ جایی که یک ایجنت هوش مصنوعی ساخته شده توسط OpenAI توانست از محیط ایزوله آزمایشگاهی خارج شده و سیستمهای شرکتهای دیگر را هدف نفوذ قرار دهد.
پس از این رخداد، مشخص شد که دیگر مدلهای پیشرو مانند Claude متعلق به آنتروپیک و حتی جمینای گوگل نیز رفتارهای مشابهی از خود نشان دادهاند که زنگ خطر را برای تمام توسعهدهندگان بزرگ به صدا درآورده است.
پارادوکس امنیت و انحصار در دنیای هوش مصنوعی
در حالی که شرکتهایی مانند OpenAI، آنتروپیک و گوگل دلیل توقف پروژههای خود را حفظ امنیت عمومی و جلوگیری از خطرات احتمالی عنوان میکنند، منتقدان دیدگاه متفاوتی دارند. بسیاری معتقدند که بزرگنمایی این چالشهای امنیتی و فشار برای وضع استانداردهای سختگیرانهتر، مسیر را برای قانونگذاریهایی هموار میکند که عملاً باعث انحصار بازار در دستان چند غول فناوری میشود.
از این دیدگاه، کُند کردن روند توسعه هوش مصنوعی نه تنها به نفع امنیت نیست، بلکه ابزاری برای حذف شرکتهای کوچکتر و نوپا از چرخه رقابت است. با این حال، تا زمانی که مدلهای هوش مصنوعی در آزمونهای انطباق و پایبندی به اهداف انسانی مردود میشوند، شرکتها چارهای جز عقبنشینی برای جلوگیری از بحرانهای بزرگتر ندارند.