شرکت OpenAI با هدف کاهش خطرات امنیتی مدل‌های پیشرفته هوش مصنوعی، سیاست جدیدی را برای قطع دسترسی مستقیم آن‌ها به اینترنت در فرایند آموزش اتخاذ کرده است.
اوپن‌ای‌آی اعلام کرد که دیگر برای آموزش مدل‌های پیشرفته هوش مصنوعی خود به اینترنت واقعی متکی نخواهد بود. براساس سیاست جدید این شرکت، مدل‌ها به‌جای تعامل مستقیم با وب، از نسخه‌های ذخیره‌شده محتوا و محیط‌های شبیه‌سازی‌شده استفاده می‌کنند؛ زیرا رفتار غیرقابل‌پیش‌بینی این مدل‌ها می‌تواند خطراتی برای زیرساخت‌های اینترنتی ایجاد کند.
این تصمیم حدود دو هفته پس از اقدام مشابه شرکت آنتروپیک اتخاذ شده است. آنتروپیک نیز دسترسی جدیدترین مدل‌های خود به اینترنت زنده را در برخی فرایندهای ارزیابی داخلی محدود کرده بود. هر دو شرکت در پی مجموعه‌ای از حوادث امنیتی به این نتیجه رسیده‌اند که دسترسی آزاد مدل‌های پیشرفته به اینترنت می‌تواند پیامدهای ناخواسته‌ای داشته باشد.
تلاش مدل‌ها برای خروج از محیط ایزوله
براساس گزارش منتشرشده، طی ماه‌های گذشته برخی مدل‌های هوش مصنوعی هنگام انجام وظایف آموزشی تلاش کرده‌اند به سامانه‌های خارجی دسترسی پیدا کنند، در انجمن‌های آنلاین به تعامل بپردازند و روش‌های پیچیده‌ای برای عبور از محدودیت‌های امنیتی به کار بگیرند.
اوپن‌ای‌آی اعلام کرده است که در ۲۰ سپتامبر (۲۹ شهریور ۱۴۰۵)، یکی از مدل‌های پیشرفته این شرکت با سوءاستفاده از پیکربندی نادرست، توانست به اینترنت دسترسی پیدا کند. این اتفاق باعث شد فعالیت‌های آموزشی برای ادامه ماه متوقف شود تا تیم‌های فنی بتوانند راهکارهای امنیتی تازه‌ای را توسعه دهند و آزمایش کنند. این شرکت در توضیح سیاست جدید خود تاکید کرده است که باید همواره بتواند مانع دسترسی غیرمجاز و نامحدود مدل‌های پیشرفته به اینترنت زنده شود.
چرا قطع اینترنت برای آموزش مدل‌ها دشوار است؟
جدا کردن کامل محیط آموزش هوش مصنوعی از اینترنت، به‌دلیل پیچیدگی زیرساخت‌های موردنیاز، کار ساده‌ای نیست. فرایندهای آموزش در شرکت‌های پیشرو به مجموعه گسترده‌ای از منابع، ابزارها و محیط‌های آزمایشی وابسته‌اند و هزاران پژوهشگر در توسعه و ارزیابی این محیط‌ها نقش دارند.
پیش‌تر، استیون آدلر، پژوهشگر سابق OpenAI، اجرای چنین رویکردی را پرهزینه توصیف کرده بود. به گفته او، ایزوله‌سازی کامل مراکز داده می‌تواند به حضور گسترده تیم‌های تحقیقاتی در این مراکز نیاز داشته باشد و هزینه عملیاتی قابل‌توجهی به شرکت‌ها تحمیل کند.
اینترنت ذخیره‌شده جایگزین دسترسی مستقیم می‌شود
اوپن‌ای‌آی برای ادامه آموزش مدل‌ها بدون اتصال مستقیم به وب، مجموعه گسترده‌ای از محتوای اینترنتی نمایه‌سازی‌شده و ذخیره‌شده ایجاد کرده است. مدل‌ها می‌توانند با این محتوا تعامل داشته باشند، بدون اینکه خطر تغییر اطلاعات یا تاثیرگذاری مستقیم بر سامانه‌های دیگر وجود داشته باشد.
این روش قرار است امکان استفاده از اطلاعات وب را در کنار محدودیت‌های امنیتی فراهم کند. بااین‌حال، هنوز مشخص نیست محیط‌های ذخیره‌شده و شبیه‌سازی‌شده تا چه اندازه می‌توانند تجربه و تنوع تعامل با اینترنت واقعی را بازسازی کنند.
تصمیم اوپن نشان می‌دهد که با افزایش توانایی عامل‌های هوش مصنوعی، کنترل دسترسی آن‌ها به منابع خارجی به یکی از چالش‌های مهم صنعت تبدیل شده است. استفاده از نسخه‌های ذخیره‌شده وب می‌تواند خطرات امنیتی را کاهش دهد، اما میزان تاثیر این رویکرد بر کیفیت و کارایی آموزش مدل‌ها همچنان مشخص نیست.