جفری هینتون هشدار داده است که پیشرفت سریع هوش مصنوعی می‌تواند در سال جاری یا سال آینده به بحرانی در ابعاد فاجعه چرنوبیل منجر شود. او از احتمال حمله به زیرساخت‌های برق و اختلال گسترده در نظام مالی به‌عنوان نمونه‌هایی از خطرهای این فناوری نام برده است.
به گزارش Neowin، جفری هینتون (Geoffrey Hinton)، دانشمند علوم کامپیوتر و برنده جایزه نوبل فیزیک، بار دیگر درباره خطرهای هوش مصنوعی هشدار داده است. او در گفت‌وگو با The Guardian اعلام کرد که جهان ممکن است در سال ۲۰۲۶ یا ۲۰۲۷ شاهد حادثه‌ای در ابعاد فاجعه چرنوبیل باشد؛ رویدادی که شاید درنهایت توجه جدی دولت‌ها و رهبران سیاسی را به پیامدهای توسعه کنترل‌نشده این فناوری جلب کند.
هینتون در این هشدار لزوما به سناریوی تسلط هوش مصنوعی بر انسان یا خودآگاه‌شدن ماشین‌ها اشاره نمی‌کند. نگرانی اصلی او درباره توانایی سامانه‌های پیشرفته برای ایجاد اختلال در زیرساخت‌های حیاتی است. به‌گفته این دانشمند، یک حمله سایبری با کمک عامل‌های هوش مصنوعی به زیرساخت تولید برق می‌تواند خاموشی گسترده‌ای به‌دنبال داشته باشد. او همچنین احتمال وقوع حمله‌ای را مطرح کرده که نظام مالی را برای یک هفته از کار بیندازد.
عامل‌های هوش مصنوعی و نشانه‌های اولیه خطر
هینتون برای توضیح نگرانی خود به حوادث اخیر مرتبط با عامل‌های هوش مصنوعی اشاره کرده است. او برخی از این اتفاق‌ها را به حادثه هسته‌ای Three Mile Island در سال ۱۹۷۹ تشبیه می‌کند؛ رویدادی که اگرچه به فاجعه‌ای در مقیاس چرنوبیل تبدیل نشد، ضعف‌های مهمی را در مدیریت فناوری‌های پرخطر آشکار کرد.
ازجمله نمونه‌های مورد اشاره در گزارش، رفتار مخرب برخی عامل‌های هوش مصنوعی در تابستان امسال است که طبق گزارش‌ها، برای نفوذ به زیرساخت‌های پلتفرم Hugging Face تلاش کرده‌اند. هینتون این حوادث را نشانه‌ای اولیه از خطرهایی می‌داند که با افزایش توانایی و استقلال عامل‌های هوش مصنوعی ممکن است جدی‌تر شوند.
انتقاد از مدیران شرکت‌های هوش مصنوعی
این دانشمند علاوه‌بر خطرهای فنی، از رویکرد مدیران شرکت‌های بزرگ فعال در حوزه هوش مصنوعی نیز انتقاد کرده است. او به‌طور مشخص از سم آلتمن، مدیرعامل OpenAI، مارک زاکربرگ و ایلان ماسک نام برد و معتقد است این افراد با وجود آگاهی از خطرهای احتمالی، فرصت‌های تجاری و درآمدزایی را در اولویت قرار می‌دهند.
هینتون درباره آلتمن گفته است که به او «اصلا اعتماد ندارد» و حضورش در راس یکی از مهم‌ترین شرکت‌های هوش مصنوعی جهان را نگران‌کننده توصیف کرده است. این اظهارات نشان می‌دهد نگرانی او تنها به توانایی‌های فنی مدل‌ها محدود نمی‌شود و نحوه تصمیم‌گیری شرکت‌های سازنده این فناوری را نیز دربرمی‌گیرد.
پیشنهاد هینتون برای نظارت بر توسعه هوش مصنوعی
هینتون خواستار نظارت قانونی سخت‌گیرانه‌تر بر توسعه مدل‌های قدرتمند هوش مصنوعی است. ازنظر او، شرکت‌ها باید پیش از عرضه عمومی محصولات خود، آزمایش‌های اجباری و ارزیابی‌های مستقل را پشت سر بگذارند. او این فرایند را به سازوکار سازمان غذا و داروی آمریکا (FDA) تشبیه کرده است؛ نهادی که ایمنی و اثربخشی محصولات پزشکی را پیش از ورود به بازار بررسی می‌کند.
بااین‌حال، هینتون آینده هوش مصنوعی را کاملا تاریک نمی‌بیند. او معتقد است مدیریت درست این فناوری می‌تواند به شکل‌گیری نوعی فراوانی گسترده و بهبود شرایط زندگی انسان‌ها منجر شود. در مقابل، بی‌توجهی به خطرها ممکن است بیکاری گسترده، افزایش شکاف طبقاتی و مشکلات فرهنگی و اجتماعی را به‌دنبال داشته باشد.
به‌باور هینتون، در دهه آینده و شاید حتی زودتر مشخص خواهد شد که آیا انسان می‌تواند هوش مصنوعی را به‌شکلی ایمن مدیریت کند یا خیر. او هنوز معتقد است کنترل اوضاع در دست بشر است؛ اما حفظ این وضعیت به اقدام جدی دولت‌ها و شرکت‌های فناوری بستگی دارد.