جیکوب کاکسون، پژوهشگر سابق شرکت Anthropic که پیشتر در OpenAI نیز فعالیت داشته، با انتشار متن استعفای خود موجی از نگرانیها را در صنعت هوش مصنوعی برانگیخته است. او معتقد است سرعت سرسامآور توسعه فناوری هوش مصنوعی و رقابتهای تنگاتنگ میان شرکتهای بزرگ، آینده بشریت را با تهدیدهای جدی و وجودی روبهرو کرده است. کاکسون در اظهارات اخیر خود تأکید کرد که بسیاری از متخصصان این حوزه نه تنها نگران پیامدهای بلندمدت، بلکه بهشدت هراسان از رقابتهای کنترلنشدهای هستند که امنیت جوامع را به مخاطره میاندازد.
رقابت بر سر ابرهوش و چالشهای نظارتی
داریو آمودی، مدیرعامل Anthropic، و سایر چهرههای کلیدی این صنعت همچون سم آلتمن و ایلان ماسک، لزوم وضع مقررات سختگیرانه و نظارت مستقل بر فرآیند توسعه مدلهای پیشرفته را مطرح کردهاند. با این حال، کاکسون معتقد است وضع قوانین داخلی برای شرکتها کافی نیست و برای جلوگیری از تبدیل این رقابت به یک مسابقه تسلیحاتی خطرناک در سطح بینالمللی، هماهنگیهای جهانی با کشورهایی نظیر چین امری ضروری است. این پژوهشگر تأکید دارد که رقابتهای فعلی، سازندگان این فناوری را به شکلی ناخواسته در مسیری قرار داده که نگرانکنندهترین سناریوها را محتمل میکند.
شکاف در سیلیکونولی؛ از هشدار تا تردید
درحالیکه بسیاری از کارکنان این شرکتها بهدلیل بیثباتی احتمالی، دغدغههای شخصی و حتی برنامهریزی برای آینده زندگی خود را در اولویت قرار دادهاند، برخی دیگر از چهرههای سرشناس صنعت با هشدارهای آخرالزمانی مخالفت میکنند. جنسن هوانگ، مدیرعامل انویدیا، ادعاهای مربوط به پایان بشریت توسط هوش مصنوعی را «بیمعنا» توصیف کرده است. همچنین کلمنت دلانگ، مدیرعامل پلتفرم Hugging Face، با نقد رویکرد این دسته از متخصصان، هشدارها درباره انقراض بشر را با موضوعات تخصصی دیگر مقایسه کرده و خواستار نگاهی واقعبینانهتر به جایگاه فنی این فناوری شده است.
تلاش برای تعادل؛ مزایا در برابر خطرات بیسابقه
سخنگوی Anthropic در واکنش به این استعفا، تأکید کرد که این شرکت همواره شفافیت را سرلوحه کار خود قرار داده و مدلهایش را با سازوکارهای حفاظتی پیشرفته توسعه میدهد. با وجود توقف عرضه برخی مدلهای خاص به دلیل نگرانیهای امنیتی در شرکتهایی نظیر Anthropic و OpenAI، هنوز دیدگاههای متناقضی درباره این موضوع وجود دارد. برخی منتقدان معتقدند تمرکز بیشازحد بر هشدارهای امنیتی ممکن است راهکاری برای محدود کردن رقبا و ایجاد فضای دوقطبی در بازار باشد، در حالی که پژوهشگران معتقدند هنوز فرصت برای مدیریت این خطرات پیش از بروز فجایع غیرقابلجبران وجود دارد.