آنتروپیک: هوش مصنوعی ممکن است به‌زودی خودش را بهبود دهد

آنتروپیک در پرونده اصلاح‌شده عرضه سهام خود هشدار داده است که مدل‌های آینده این شرکت ممکن است به آستانه‌ای برای شتاب‌دادن چشمگیر به توسعه هوش مصنوعی با کمک خود AI برسند. این شرکت در عین حال تاکید می‌کند که هیچ‌یک از مدل‌های فعلی آن هنوز از این آستانه عبور نکرده‌اند.

به گزارش Techcrunch، آنتروپیک در اصلاحیه پرونده ثبت عرضه سهام خود نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) که در ۲ نوامبر ۲۰۲۶ (۱۱ آبان ۱۴۰۵) منتشر شد، به موضوعی فراتر از وضعیت مالی این شرکت پرداخت: احتمال نزدیک‌شدن به مرحله‌ای که هوش مصنوعی بتواند روند توسعه نسل‌های بعدی خودش را به‌طور چشمگیری سرعت ببخشد.

این مفهوم با عنوان «خودبهبودی بازگشتی» (Recursive Self-Improvement یا RSI) شناخته می‌شود. در چنین وضعیتی، مدل‌های هوش مصنوعی نه‌فقط در انجام وظایف مختلف عملکرد بهتری دارند، بلکه می‌توانند در پژوهش، آموزش و ارزیابی مدل‌های پیشرفته‌تر نیز نقش موثری ایفا کنند. در صورت شکل‌گیری یک چرخه تقویت‌شونده، هر نسل از مدل‌ها می‌تواند به توسعه سریع‌تر نسل بعدی کمک کند.

مدل‌های فعلی هنوز به آستانه RSI نرسیده‌اند

آنتروپیک در بخش عوامل خطر پرونده خود توضیح داده است که استفاده فزاینده از هوش مصنوعی در تحقیق و توسعه داخلی، ممکن است سرعت پیشرفت مدل‌ها را از توانایی شرکت برای ارزیابی و اجرای تدابیر ایمنی، هم‌راستاسازی و امنیتی جلو بیندازد. این شرکت همچنین پذیرفته است که در گذشته بعضی جهش‌های مهم در توانایی مدل‌هایش را به‌موقع تشخیص نداده است.

نکته مهم‌تر به برآوردهای داخلی آنتروپیک درباره مدل‌های آینده مربوط می‌شود. این شرکت می‌گوید این برآوردها نشان می‌دهند که ممکن است به‌زودی به تعریف سیاست مقیاس‌بندی مسئولانه خود از «شتاب چشمگیر پیشرفت منتسب به هوش مصنوعی» برسد. بااین‌حال، آنتروپیک صریحا اعلام کرده است که هیچ‌یک از مدل‌های فعلی‌اش از این آستانه عبور نکرده و همچنان داده‌های مربوط را بررسی می‌کند.

کلاود چگونه در ساخت نسل بعدی مدل‌ها نقش دارد؟

براساس توضیحات آنتروپیک، مدل‌های کلاود هم‌اکنون در بخش‌های مختلف فرایند توسعه مدل‌های جدید استفاده می‌شوند. این فعالیت‌ها شامل اجرای آزمایش‌ها، تولید و پردازش داده‌های آموزشی، خودکارسازی ارزیابی‌ها و بررسی‌های ایمنی و همچنین نوشتن و بازبینی کد است.

آنتروپیک این چرخه را «بستن حلقه» (Closing the Loop) می‌نامد؛ زیرا هر نسخه از کلود می‌تواند به توسعه نسخه بعدی کمک کند. این شرکت همچنین می‌گوید مدل‌های توانمندتر به پژوهشگران کمک می‌کنند روش‌های موثرتری برای استفاده از منابع پردازشی پیدا کنند و این بهبودها نیز آموزش مدل‌های پیشرفته‌تر را امکان‌پذیر می‌کند.

اظهارات آنتروپیک نشان می‌دهد این شرکت خودبهبودی هوش مصنوعی را دیگر صرفا یک احتمال دوردست نمی‌داند؛ بااین‌حال، نباید این موضوع را به معنای ساخت مدلی دانست که بتواند بدون دخالت انسان خودش را به‌طور کامل بازطراحی کند. آنچه در پرونده آمده، برآوردی درباره مدل‌های آینده و احتمال عبور از یک آستانه داخلی است، نه اعلام دستیابی به RSI. از سوی دیگر، این اظهارات در پرونده عرضه سهام شرکتی مطرح شده‌اند که باید هم ریسک‌های فعالیت خود را برای سرمایه‌گذاران توضیح دهد و هم چشم‌انداز فناوری‌اش را ارائه کند. بنابراین، تفکیک هشدارهای رسمی از برداشت‌های اغراق‌آمیز درباره هوش مصنوعی خودمختار اهمیت دارد.