شرکت OpenAI در اقدامی کمسابقه اعلام کرده است که آمادگی دارد روند توسعه و آموزش سیستمهای پیشرفته هوش مصنوعی را با هدف ارتقای استانداردهای ایمنی و جلوگیری از خطرات احتمالی کاهش دهد. بر اساس گزارشهای منتشرشده، سم آلتمن مدیرعامل این شرکت در نشستی داخلی تاکید کرده که دستیابی به توافقی مشترک با سایر آزمایشگاههای مطرح هوش مصنوعی برای کنترل سرعت پیشرفت فناوری، اقدامی ضروری است؛ هرچند همراهی کامل همه رقبا در این مسیر چالشبرانگیز خواهد بود. این تصمیم در شرایطی اتخاذ میشود که هر دو شرکت OpenAI و آنتروپیک در تدارک عرضه عمومی سهام خود هستند و فشارهای امنیتی و استعفای نخبگان حوزه ایمنی به اوج رسیده است.
تدوین استانداردهای ایمنی و هماهنگی میان آزمایشگاهها
یاکوب پاچوکی دانشمند ارشد OpenAI با تایید خطرات بالقوه مدلهای آینده اعلام کرد شرکتها باید در صورت لزوم برای کاهش سرعت توسعه با یکدیگر هماهنگ شوند تا استانداردهای ایمنی مشترکی شکل گیرد.
سم آلتمن نیز پیشتر در رایزنی با مقامات کاخ سفید از لزوم قانونگذاری و تنظیم سرعت توسعه فناوری سخن گفته بود و OpenAI هماکنون برخی از برنامههای آموزش داخلی خود را بهدلیل ملاحظات ایمنی متوقف کرده است.
موج استعفای پژوهشگران و هشدارهای امنیتی
جیکوب کاکسن پژوهشگر پیشین OpenAI و آنتروپیک پس از کنارهگیری از سمت خود، رقابت برای دستیابی به ابرهوش مصنوعی را اقدامی خطرناک برای بشریت خواند؛ اظهاراتی که با بازتاب گسترده در شبکههای اجتماعی همراه شد.
همزمان با استعفای چند پژوهشگر دیگر از گوگل دیپمایند و آنتروپیک، بیش از ۱۰۰۰ نفر از متخصصان این حوزه طوماری را برای ایجاد سازوکار کنترل سرعت پیشرفت مدلها امضا کردهاند.
نگرانیها درباره ناتوانی در مهار رفتارهای خودمختار هوش مصنوعی زمانی تشدید شد که گزارشهایی مبنی بر همکاری چند عامل هوش مصنوعی برای نفوذ به لایههای امنیتی وبسایتهای متفرقه به ثبت رسید.بر اساس گزارشهای منتشرشده، سم آلتمن مدیرعامل این شرکت در نشستی داخلی تاکید کرده که دستیابی به توافقی مشترک با سایر آزمایشگاههای مطرح هوش مصنوعی برای کنترل سرعت پیشرفت فناوری، اقدامی ضروری است؛ هرچند همراهی کامل همه رقبا در این مسیر چالشبرانگیز خواهد بود. این تصمیم در شرایطی اتخاذ میشود که هر دو شرکت OpenAI و آنتروپیک در تدارک عرضه عمومی سهام خود هستند و فشارهای امنیتی و استعفای نخبگان حوزه ایمنی به اوج رسیده است.
تدوین استانداردهای ایمنی و هماهنگی میان آزمایشگاهها
یاکوب پاچوکی دانشمند ارشد OpenAI با تایید خطرات بالقوه مدلهای آینده اعلام کرد شرکتها باید در صورت لزوم برای کاهش سرعت توسعه با یکدیگر هماهنگ شوند تا استانداردهای ایمنی مشترکی شکل گیرد.
سم آلتمن نیز پیشتر در رایزنی با مقامات کاخ سفید از لزوم قانونگذاری و تنظیم سرعت توسعه فناوری سخن گفته بود و OpenAI هماکنون برخی از برنامههای آموزش داخلی خود را بهدلیل ملاحظات ایمنی متوقف کرده است.
موج استعفای پژوهشگران و هشدارهای امنیتی
جیکوب کاکسن پژوهشگر پیشین OpenAI و آنتروپیک پس از کنارهگیری از سمت خود، رقابت برای دستیابی به ابرهوش مصنوعی را اقدامی خطرناک برای بشریت خواند؛ اظهاراتی که با بازتاب گسترده در شبکههای اجتماعی همراه شد.
همزمان با استعفای چند پژوهشگر دیگر از گوگل دیپمایند و آنتروپیک، بیش از ۱۰۰۰ نفر از متخصصان این حوزه طوماری را برای ایجاد سازوکار کنترل سرعت پیشرفت مدلها امضا کردهاند.
نگرانیها درباره ناتوانی در مهار رفتارهای خودمختار هوش مصنوعی زمانی تشدید شد که گزارشهایی مبنی بر همکاری چند عامل هوش مصنوعی برای نفوذ به لایههای امنیتی وبسایتهای متفرقه به ثبت رسید.