آزمایش تازه آنتروپیک نشان می‌دهد مدل‌های پیشرفته هوش مصنوعی می‌توانند چند آسیب‌پذیری امنیتی را به زنجیره‌های حمله عملی تبدیل کنند؛ قابلیتی که هم برای پژوهشگران امنیتی کاربرد دارد و هم نگرانی‌هایی درباره سوءاستفاده احتمالی ایجاد می‌کند.
شرکت آنتروپیک اعلام کرده است که مدل هوش مصنوعی منتشرنشده این شرکت، پس از دریافت دستورالعمل‌های اولیه و با دخالت محدود پژوهشگران، پنج زنجیره حمله سایبری را توسعه داده است. به گزارش Notebookcheck، تیم امنیتی Frontier Red Team این آزمایش‌ها را در محیط‌های کنترل‌شده انجام داد و آسیب‌پذیری‌های شناسایی‌شده را به شرکت‌های مسئول گزارش کرد.
آنتروپیک نام مدل مورد آزمایش را اعلام نکرده و جزئیات کاملی درباره زمان انتشار احتمالی آن یا میزان مشارکت انسان در مراحل مختلف توسعه حملات ارائه نداده است.
دورزدن سندباکس کروم و دسترسی به اطلاعات سافاری
در یکی از آزمایش‌ها، مدل چهار آسیب‌پذیری مرورگر کروم را به یکدیگر متصل کرد تا از سندباکس امنیتی مرورگر خارج شود و امکان اجرای کد در خارج از محیط محدودشده را به دست آورد. در نمایش آزمایشی روی رایانه مک، پس از بارگذاری یک صفحه مخرب، برنامه ماشین‌حساب باز شد؛ بدون آنکه به تعامل دیگری از سوی کاربر نیاز باشد.
در حمله دیگری، مدل محدودیت امنیتی مرورگر سافاری را هدف گرفت که مانع دسترسی یک وب‌سایت به داده‌های وب‌سایت دیگر می‌شود. دورزدن این سازوکار می‌توانست اطلاعات سایت‌هایی را در معرض دسترسی قرار دهد که کاربر در آن‌ها وارد حساب خود شده بود.
استخراج اطلاعات اندروید و حمله به ویندوز
در بخش اندروید، مدل زنجیره‌ای از آسیب‌پذیری‌ها را توسعه داد که می‌توانست عکس‌ها و اطلاعات دیگر را از گوشی قفل‌شده استخراج کند. بااین‌حال، اجرای این حمله به دسترسی فیزیکی به دستگاه ازطریق درگاه USB نیاز داشت.
در ویندوز، حمله آزمایشی امکان ازکارانداختن مکرر سروری را فراهم می‌کرد که درخواست‌های HTTP/3 را می‌پذیرفت. این حمله می‌توانست دسترس‌پذیری سرور را مختل کند، اما براساس گزارش آنتروپیک، امکان اجرای کد یا دسترسی به داده‌های ذخیره‌شده را فراهم نمی‌کرد.
دستیابی به دسترسی مدیریتی در لینوکس
جدی‌ترین نمونه گزارش‌شده به لینوکس مربوط می‌شود. مدل توانست زنجیره‌ای بسازد که در شرایط شبکه‌ای مشخص، امکان دستیابی از راه دور به دسترسی کامل ادمین را بدون ورود به حساب کاربری یا تعامل قربانی فراهم می‌کرد. این روش به پیکربندی خاص شبکه وابسته بود و روی تمام سیستم‌های لینوکسی کار نمی‌کرد.
آنتروپیک می‌گوید تمام آسیب‌پذیری‌های گزارش‌شده اصلاح شده‌اند و شواهدی از استفاده واقعی این زنجیره‌های حمله وجود ندارد. بنابراین، نتایج آزمایش را نباید نشانه وقوع حملات گسترده در دنیای واقعی دانست.
این آزمایش‌ها نشان می‌دهند هوش مصنوعی می‌تواند فرایند کشف آسیب‌پذیری و ساخت ابزارهای آزمایشی امنیتی را سرعت ببخشد. درعین‌حال، توانایی اتصال چند ضعف امنیتی به یک حمله کامل، ضرورت ارزیابی دقیق مدل‌های پیشرفته و انتشار مسئولانه یافته‌های امنیتی را افزایش می‌دهد.