آنتروپیک اعلام کرده است که پیشرفت مورد انتظار مدلهای هوش مصنوعی این شرکت از آستانهای عبور کرده که اقدامات امنیتی بیشتری را طلب میکند. این تصمیم به معنای دستیابی هوش مصنوعی به خودبهبودی مستقل نیست، بلکه برآوردی درباره سرعت پیشرفت مدلهای آینده است.
به گزارش Gizmodo، آنتروپیک در تازهترین نسخه اسناد عرضه اولیه سهام خود اعلام کرده است که به آستانه تعیینشده برای افزایش چشمگیر سرعت پیشرفت هوش مصنوعی رسیده است؛ موضوعی که میتواند سیاستهای امنیتی این مجموعه را تغییر دهد. این تصمیم به مفهوم دستیابی مدلها به توانایی خودبهبودی مستقل نیست، بلکه نشان میدهد آنتروپیک براساس پیشبینی عملکرد مدلهای آینده، احتمال شتاب گرفتن روند توسعه هوش مصنوعی را جدی گرفته است.
آنتروپیک در سند ثبت عرضه اولیه سهام خود اعلام کرده بود که ممکن است بهزودی معیارهای سیاست مقیاسپذیری مسئولانه (Responsible Scaling Policy) را برای پیشرفت بسیار سریع هوش مصنوعی برآورده کند.
بااینحال، در نسخه ۱۰ نوامبر (۱۹ آبان ۱۴۰۵)، عبارت مربوط به چنین پیشرفت چشمگیری حذف و توضیحات دقیقتری درباره تصمیم این مجموعه جایگزین شد. آنتروپیک اعلام کرد که استفاده از هوش مصنوعی هماکنون سرعت فعالیتهای تحقیق و توسعه داخلی را افزایش داده و برآوردهای این مجموعه از احتمال شتاب بیشتر در آینده حکایت دارند.
نکته مهم این است که عبور از آستانه موردنظر براساس پیشبینی عملکرد مدلهای آینده و روند کلی پیشرفت انجام شده، نه صرفا نتایج مشاهدهشده از مدلهای فعلی. بنابراین، آنتروپیک هنوز ادعا نکرده است که هوش مصنوعی به مرحله خودبهبودی کامل رسیده است.
منظور از خودبهبودی بازگشتی هوش مصنوعی چیست؟
خودبهبودی بازگشتی (Recursive Self-Improvement) به وضعیتی گفته میشود که یک سیستم هوش مصنوعی بتواند در توسعه نسخههای بعدی خودش نقش داشته باشد. برای مثال، چنین سیستمی ممکن است در طراحی معماری مدلها، بهینهسازی فرایند آموزش، نوشتن کدهای موردنیاز و انجام آزمایشهای تحقیقاتی مشارکت کند.
اگر این فرایند به اندازه کافی پیشرفته شود، نسخههای جدید میتوانند توانایی بیشتری برای توسعه نسلهای بعدی داشته باشند. در چنین شرایطی، سرعت پیشرفت فناوری ممکن است به شکل قابلتوجهی افزایش پیدا کند.
براساس سیاست آنتروپیک، یکی از معیارهای مهم برای تشخیص این وضعیت، دو برابر شدن سرعت پیشرفت کلی قابلیتهای هوش مصنوعی در مقایسه با نرخ پیشرفت مورد انتظار بدون مشارکت قابلتوجه هوش مصنوعی در تحقیقات و توسعه است. این معیار به معنای دو برابر شدن بهرهوری تکتک پژوهشگران نیست، بلکه به سرعت پیشرفت قابلیتهای کلی مدلها اشاره دارد.
تصمیم آنتروپیک را باید بیشتر یک هشدار درباره سرعت احتمالی پیشرفت هوش مصنوعی دانست تا نشانهای از وقوع خودبهبودی مستقل. اهمیت این اتفاق در آن است که یک شرکت فعال در توسعه مدلهای پیشرفته، پیش از مشاهده کامل پیامدهای این شتاب، تصمیم گرفته است الزامات امنیتی سختگیرانهتری را در نظر بگیرد. بااینحال، میزان تحقق این پیشبینیها و تاثیر واقعی آنها بر توسعه نسلهای آینده مدلها هنوز مشخص نیست.
