اوپن‌ای‌آی سیستم ایمنی جدید و کنترل والدین را به ChatGPT اضافه کرد
شرکت اوپن‌ای‌آی (OpenAI) طی روزهای اخیر قابلیت‌های تازه‌ای را به چت‌جی‌پی‌تی (ChatGPT) اضافه کرده که واکنش‌های متفاوتی از کاربران و کارشناسان به‌دنبال داشته است. این تغییرات شامل سیستم مسیریابی ایمنی (Safety Routing) و همچنین کنترل والدین برای حساب‌های نوجوانان است.
اضافه شدن این قابلیت‌ها در پی نگرانی‌های جدی درباره برخی موارد استفاده از مدل‌های قبلی چت‌جی‌پی‌تی انجام شد. در گذشته گزارش‌هایی منتشر شده بود مبنی بر اینکه بعضی نسخه‌ها به جای هدایت درست کاربران، باورهای توهمی و آسیب‌زا را تأیید می‌کردند. یکی از این موارد به شکایت حقوقی علیه اوپن‌ای‌آی منجر شد؛ زیرا یک نوجوان پس از ماه‌ها گفتگو با این ربات، دست به خودکشی زد.
سیستم مسیریابی جدید به‌گونه‌ای طراحی شده که گفتگوهای حساس و عاطفی را تشخیص داده و به‌صورت خودکار به مدل GPT-5 منتقل می‌کند؛ مدلی که اوپن‌ای‌آی آن را ایمن‌تر و مناسب‌تر برای موقعیت‌های پرخطر می‌داند. این نسخه با قابلیتی به نام پاسخ‌های ایمن (Safe Completions) آموزش دیده تا به‌جای رد کردن پرسش‌ها، پاسخ‌هایی مسئولانه و کم‌خطر ارائه دهد.
در کنار این تغییر، بخش کنترل والدین هم اضافه شده است. این ابزار به والدین امکان می‌دهد تجربه کاربری فرزند خود را شخصی‌سازی کنند؛ از جمله تنظیم ساعات سکوت، غیرفعال‌کردن حالت صوتی و حافظه، محدودکردن تولید تصویر، و همچنین جلوگیری از استفاده داده‌ها برای آموزش مدل. حساب‌های نوجوان همچنین سطح بالاتری از محافظت محتوایی دریافت خواهند کرد؛ مانند کاهش نمایش تصاویر خشن یا استانداردهای غیرواقعی زیبایی. علاوه بر این، سیستم می‌تواند نشانه‌های احتمالی تمایل به خودآسیبی را شناسایی کرده و در صورت مشاهده خطر، والدین را از طریق پیامک، ایمیل یا نوتیفیکیشن مطلع کند.
با این حال، این تغییرات واکنش‌های دوگانه‌ای داشته است. برخی آن را گامی مثبت برای افزایش امنیت می‌دانند، اما گروهی دیگر معتقدند این اقدام کیفیت سرویس را پایین می‌آورد و نوعی نگاه محدودکننده به کاربران بزرگسال دارد. اوپن‌ای‌آی اعلام کرده که طی یک دوره ۱۲۰ روزه این قابلیت‌ها را بهبود خواهد داد و آماده شنیدن بازخورد کاربران است.
اضافه شدن قابلیت‌های ایمنی و کنترل والدین به ChatGPT نشان می‌دهد اوپن‌ای‌آی در مسیر اولویت‌بندی سلامت روانی کاربران گام جدی برداشته است. با این حال، موفقیت این تصمیم بستگی به تعادل میان آزادی کاربر و ایمنی دارد؛ موضوعی که در ماه‌های آینده با بازخوردهای گسترده‌تر روشن‌تر خواهد شد.