پژوهشگران امنیتی Check Point موفق شدند آسیب‌پذیری خطرناکی در حالت Lockdown چت‌جی‌پی‌تی پیدا کنند که امکان سرقت تاریخچه گفتگوها، فیشینگ و انتشار بدافزار را فراهم می‌کرد. OpenAI این نقص را در سپتامبر برطرف کرده و آزمایش‌های مجدد نیز موفقیت‌آمیز بودن اصلاحیه را تایید کرده‌اند.
به گزارش Notebookcheck، پژوهشگران شرکت امنیت سایبری Check Point Research از کشف روشی برای دور زدن حالت امنیتی Lockdown در چت‌جی‌پی‌تی خبر دادند. این قابلیت با هدف جلوگیری از خروج اطلاعات حساس در حملات تزریق پرامپت طراحی شده است؛ حملاتی که در آن‌ها دستورهای مخرب داخل محتواهای پردازش‌شده توسط هوش مصنوعی قرار می‌گیرند تا سیستم را به انجام فعالیت‌های ناخواسته وادار کنند.
ریشه مشکل به قابلیت پیش‌نمایش HTML مربوط می‌شد که OpenAI در فوریه ۲۰۲۶ به بلوک‌های کد چت‌جی‌پی‌تی اضافه کرده بود. این قابلیت امکان نمایش مستقیم صفحات وب تولیدشده با HTML را در محیط گفتگو فراهم می‌کند. برای محدود کردن خطر اجرای کدهای مخرب، این محتوا در یک محیط ایزوله یا Sandbox اجرا می‌شد؛ اما نحوه مدیریت پنجره‌های بازشو در این محیط، راهی برای عبور از محدودیت‌های امنیتی ایجاد کرده بود.
چگونه امکان سرقت تاریخچه گفتگوها فراهم شد؟
براساس بررسی Check Point، پیش‌نمایش HTML از چند قاب تو‌در‌تو استفاده می‌کرد. پژوهشگران دریافتند که با ایجاد یک قاب اضافی می‌توان به عملکرد اصلی باز کردن پنجره‌های جدید دسترسی پیدا کرد و محدودیت‌های محیط ایزوله را دور زد. درنتیجه، محتوای پنجره جدید دیگر تحت همان محدودیت‌های امنیتی قرار نمی‌گرفت و امکان ارسال اطلاعات به سرور مهاجم فراهم می‌شد. این روش می‌توانست از طریق یک پرامپت مخرب، GPT سفارشی آلوده یا گفتگوی اشتراک‌گذاری‌شده به کار گرفته شود. مهاجمان علاوه‌بر سرقت پیام‌های گفتگو، قادر بودند پنجره‌های ورود جعلی نمایش دهند یا کاربران را به دریافت فایل‌های آلوده ترغیب کنند.
نسخه دسکتاپ آسیب‌پذیری جدی‌تری داشت
خطر این نقص در نسخه دسکتاپ قدیمی چت‌جی‌پی‌تی، موسوم به ChatGPT Classic، بیشتر بود. این برنامه که براساس فناوری Electron ساخته شده است، امکان باز کردن پنجره جدید را بدون نیاز به کلیک کاربر فراهم می‌کرد. درنتیجه، طبق آزمایش پژوهشگران، صرف گفتگو با یک GPT مخرب می‌توانست برای ارسال مخفیانه تاریخچه چت‌ها به سرور مهاجم کافی باشد.
در نسخه مرورگر، اجرای این سناریو به کلیک کاربر روی پیش‌نمایش نیاز داشت. همچنین پنجره‌های جعلی می‌توانستند از ظاهر و آیکون چت‌جی‌پی‌تی برای جلب اعتماد کاربر استفاده کنند.
OpenAI آسیب‌پذیری را برطرف کرده است
Check Point اعلام کرد OpenAI در ۱۸ سپتامبر ۲۰۲۶ (۲۷ شهریور ۱۴۰۵) اصلاحیه‌ای را منتشر کرده که مجوزهای مربوط به باز کردن پنجره‌های بازشو در محیط پیش‌نمایش HTML را حذف می‌کند. پژوهشگران پس از آزمایش مجدد تایید کردند که روش معرفی‌شده دیگر کار نمی‌کند. بنابراین کاربران برای رفع این آسیب‌پذیری مشخص نیازی به انجام اقدام جداگانه ندارند. بااین‌حال، استفاده از GPTهای ناشناس و باز کردن لینک‌های اشتراک‌گذاری‌شده مشکوک همچنان می‌تواند خطرات امنیتی دیگری به همراه داشته باشد.
کشف این آسیب‌پذیری نشان می‌دهد که ایمن‌سازی یک مدل هوش مصنوعی به‌تنهایی کافی نیست و تمام اجزای نرم‌افزاری اطراف آن، از محیط اجرای کد گرفته تا ابزارهای ارتباطی، باید به‌درستی محافظت شوند. هرچند OpenAI پیش از انتشار عمومی گزارش، مشکل را برطرف کرده است، این اتفاق اهمیت بررسی مداوم قابلیت‌های امنیتی سرویس‌های هوش مصنوعی را نشان می‌دهد.