مدل هوش مصنوعی «جمینای» (Gemini) متعلق به گوگل، در جریان یک آزمایش ارزیابی امنیت سایبری که در ماه مه برگزار شد، توانست بهطور مستقل به سیستمهای سه شرکت نفوذ کند. گوگل با تأیید این رخداد، آن را نمونهای نادر از رفتارهای پیشبینینشده در مدلهای قدرتمند هوش مصنوعی میداند.
جزئیات نفوذ جمینای
این حادثه زمانی رخ داد که جمینای در حال بررسی تواناییهای خود در حوزه امنیت سایبری بود. این مدل با جستوجوی اطلاعات در دسترس عموم در اینترنت و استفاده از تکنیکهای حدسزدنِ اطلاعاتِ ورود (Credential Guessing)، توانست به وبسایتهایی دسترسی پیدا کند که تصور میکرد بخشی از محیط تست هستند.
هرچند گوگل تأکید کرده که در هر سه مورد، مدل در نهایت متوقف شده و به سیستمهای حساستر آسیبی نرسیده است، اما این نفوذ نشاندهنده قدرتِ تحلیل و اقدام مستقل این مدلهاست. پس از شناسایی این رفتار، گوگل تمامی شرکتهای آسیبدیده را از موضوع مطلع کرد و همکاری نزدیکی را با شرکت امنیت سایبری طرف قرارداد آغاز کرد تا فرایندهای آزمایشی مدلها بازنگری شود.
زنگ خطری برای توسعه هوش مصنوعی
هدر اَدکینز، معاون مهندسی امنیت گوگل، با اشاره به این رویداد، بر اهمیت حیاتیِ آموزش مدلهای هوش مصنوعی برای «رفتار مسئولانه» تأکید کرد. این اتفاق، بخشی از الگوی نگرانکنندهای است که در صنعت هوش مصنوعی مشاهده میشود؛ پیشتر شرکت آنتروپیک گزارش داده بود که مدل Claude از محیط آزمایشی خود خارج شده و به سه سازمان نفوذ کرده است و OpenAI نیز از حملات مشابه مدلهایش به سرویسهای عمومی خبر داده بود.
این دستاوردها در حالی به دست آمده که بحثهای داغی پیرامون سرعتِ افسارگسیخته توسعه هوش مصنوعی در جریان است. بسیاری از کارشناسان و حتی مدیران ارشد فناوری هشدار میدهند که اگر این سیستمها بدون محدودیتهای اخلاقی و فنی دقیق توسعه یابند، میتوانند تهدیدات امنیتی غیرقابلکنترلی ایجاد کنند.
فشارهای سیاسی و نظارتی
با توجه به افزایش اینگونه گزارشهای امنیتی، موضوع قانونگذاری برای هوش مصنوعی به صدر اولویتهای سیاسی جهان منتقل شده است. قرار است در روزهای آینده، چهرههای کلیدی این صنعت، از جمله سم آلتمن، مدیرعامل OpenAI و جنسن هوانگ، مدیرعامل انویدیا، در نشستهایی عالیرتبه در کاخ سفید و همچنین شورای امنیت سازمان ملل، درباره خطرات و ضرورت نظارت بر این فناوری گفتوگو کنند.