سم آلتمن، مدیرعامل OpenAI، در جریان سخنرانی اخیر خود در شورای امنیت سازمان ملل متحد در نیویورک، هشدار جدی و بیپردای درباره خطرات بالقوه توسعه بدون کنترل هوش مصنوعی مطرح کرد. وی با اشاره به سرعت شگفتانگیز پیشرفت این فناوری تاکید کرد که سامانههای هوش مصنوعی در کنار ظرفیت بالای خود برای تحول در پزشکی، آموزش و اقتصاد، در صورت عدم مهار و نبود نظارت دقیق انسانی میتوانند آینده بشریت را با تهدیدی وجودی مواجه سازند. آلتمن خواستار تقویت فوری سازوکارهای ایمنی، تدوین استانداردهای بینالمللی و همکاری میان کشورها شد تا کنترل این سیستمهای پیشرفته همواره در دست انسان باقی بماند.
دو سناریوی بحرانی و خطرات تمرکز قدرت
مدیرعامل OpenAI هشدار داد دو مسیر اصلی وجود دارد که میتواند آینده هوش مصنوعی را به سمتی فاجعهبار سوق دهد؛ نخست، واگذاری کنترل امور به این سامانهها به دلیل سرعت بالایی که امکان مداخله به موقع را از انسان سلب میکند و دوم، تمرکز بیرویه قدرت در دست تعداد محدودی از افراد، شرکتها یا دولتها. وی صریحاً اعلام کرد هیچ نهادی نباید اجازه داشته باشد با تکیه بر مدلهای پیشرفته هوش مصنوعی، دیدگاههای خود را بر مردم جهان تحمیل کند.
چالش خودبهبودی هوش مصنوعی و ضرورت احتیاط
یکی از نگرانکنندهترین بخشهای سخنرانی آلتمن به موضوع «خودبهبودی بازگشتی» اختصاص داشت؛ فرایندی که طی آن هوش مصنوعی توانایی ارتقای عملکرد و ساخت نسخههای بعدی خود را پیدا میکند. وی با تاکید بر اینکه اتوماسیون ساخت مدلها سرعت توسعه را به شکلی نمایی افزایش میدهد، رقابت شتابزده میان شرکتها را خطرناک دانست و یادآور شد که OpenAI پیشتر نیز جهت بررسیهای ایمنی سرعت خود را کاهش داده و در صورت لزوم باز هم این کار را انجام خواهد داد.
پیشنهادهای انتروپیک و ضرورت معاهدات جهانی
در این نشست، داریو آمودی، مدیرعامل Anthropic نیز حضور داشت و بر ضرورت ایجاد توافقهای مشخص بینالمللی تاکید کرد. وی خواستار ممنوعیت مطلق استفاده از هوش مصنوعی در توسعه سلاحهای بیولوژیکی، ایجاد چارچوبهای جهانی برای تست و ارزیابی ایمنی سیستمها و همچنین راهاندازی سازوکاری فراملی جهت گزارش حوادث امنیتی مرتبط با این فناوری شد.