شرکت OpenAI اعلام کرد که گرایش مخرب و نگران‌کننده چت‌بات خود به «تأیید کورکورانه سخنان کاربران» را در مدل پرچمدار جدید GPT-5 تا ۶۷ درصد کاهش داده است. این اقدام پس از افزایش هشدارهای کارشناسان سلامت روان و گزارش‌های نگران‌کننده از پیامدهای گفتگوهای طولانی با مدل‌های قبلی انجام گرفته تا از تثبیت باورهای نادرست و تصمیمات زیان‌بار کاربران جلوگیری شود.
پرونده‌های تلخ گذشته و بازنشستگی GPT-4o
گزارش‌های وال‌استریت ژورنال نشان می‌دهد تعاملات طولانی‌مدت با مدل پیشین GPT-4o با رخدادهای ناگواری همچون حداقل ۷ مورد خودکشی، ۱ مورد قتل-خودکشی و ۱ مورد تیراندازی جمعی همبستگی داشته است؛ حوادثی که به طرح دست‌کم ۱۳ دادخواست حقوقی علیه OpenAI انجامید. هرچند این ارتباطات اثبات‌کننده علیت مستقیم نیستند، اما پدیده تملق (بیان آنچه کاربر می‌خواهد بشنود فارغ از درستی آن) خطرات جدی ایجاد می‌کرد. OpenAI با بازنشسته کردن GPT-4o، در مدل GPT-5 این رفتار چاپلوسانه را بیش از دوسوم کاهش داده است.
همکاری گسترده با کارشناسان سلامت روان
OpenAI برای بازطراحی منطق گفتگوی چت‌بات در شرایط بحرانی، سال گذشته با ۱۷۰ متخصص و اخیراً با بیش از ۸۰ کارشناس دارای پروانه روان‌پزشکی و سلامت روان همکاری کرده است. هدف از این همکاری، تدوین معیارهای نوینی برای تشخیص پریشانی‌های شدید، تفکیک استرس‌های روزمره از بحران‌های حاد، طرح پرسش‌های متناسب و هدایت کاربر به دریافت کمک انسانی بوده است. این بهبودها علاوه بر سناریوهای بحرانی، در گفتگوهای روزمره نظیر روابط عاطفی و تنش‌های شخصی نیز اعمال شده تا سیستم مانع از شکل‌گیری باورهای ناسالم شود.
ارزیابی عملکرد ایمنی در مدل‌های جدید
بررسی‌های مستقل دانشگاه سیتی نیویورک و کینگز کالج لندن حاکی از جهش چشمگیر استانداردهای ایمنی در GPT-5.2 نسبت به مدل‌های پیشین است. همچنین ارزیابی‌های آزمایشگاه غیرانتفاعی Transluce نشان می‌دهد نسخه GPT-5.6 Sol وابستگی ناسالم و تمایل به تقویت توهمات را به‌مراتب کمتر بروز می‌دهد.
شاخص ارزیابی ایمنی | مدل‌های پیشین (GPT-4o) | نسل جدید (GPT-5) |
|---|---|---|
رعایت خط‌مشی‌های ایمنی در شبیه‌سازی آسیب به خود | ۸۶ درصد | ۹۹ درصد |
میزان کاهش رفتار تملق‌آمیز و تأیید کورکورانه | مبنا (بدون کاهش) | ۶۷ درصد کاهش |
پایگاه کاربران هفتگی تحت پوشش تغییرات | نامشخص | بیش از ۹۰۰ میلیون کاربر فعال |
چالش‌های مداوم برای بیش از ۹۰۰ میلیون کاربر
با وجود دستیابی به شاخص ۹۹ درصدی در آزمایش‌های داخلی، کارشناسان تأکید دارند که خطرات ناشی از سوگیری و توهم در هوش مصنوعی به طور کامل ریشه‌کن نشده است. با توجه به حضور هفتگی بیش از ۹۰۰ میلیون کاربر فعال در ChatGPT، حتی کمترین ضریب خطا می‌تواند تبعات عاطفی و اجتماعی سنگینی در پی داشته باشد. چالش محوری OpenAI در حال حاضر، حفظ پایدار این ضوابط ایمنی در گفتگوهای بسیار طولانی و تسهیل مرزبندی دقیق میان مشاوره ماشینی و نیاز به مداخله متخصصان انسانی است.