OpenAI اعلام کرده از این پس، اگر حساب کاربری نوجوانی که به حساب والدین متصل شده است قوانین ChatGPT را در زمینه تهدید، خشونت آنلاین یا رفتارهای پرخطر نقض کند، به والدین اطلاعرسانی خواهد شد. این تغییر، دامنه کنترلهای والدین را از هشدارهای مرتبط با آسیب به خود فراتر میبرد و حالا شامل احتمال خطر برای دیگران نیز میشود.
هشدار جدید با عنوان «بهروزرسانی مهم»
در نمونهای که OpenAI منتشر کرده، والدین پیامی با عنوان «بهروزرسانی مهم» دریافت میکنند. با انتخاب گزینه «اطلاعات بیشتر»، توضیح داده میشود که حساب فرزندشان به دلیل نقض سیاستهای مربوط به اقدامات خشونتآمیز غیرفعال شده است.
این رویکرد به والدین امکان میدهد سریعتر از وجود یک نگرانی جدی مطلع شوند و در صورت نیاز، برای مداخله زودهنگام اقدام کنند.
همکاری با Moonshot برای نظارت بر خشونت آنلاین
OpenAI برای توسعه این قابلیت با شرکت Moonshot همکاری کرده است؛ شرکتی که در حوزه نظارت و مقابله با خشونت آنلاین فعالیت میکند. ویدیا رامالینگام، بنیانگذار این شرکت، گفته است:
«مطلع کردن والدین در زمان بروز یک نگرانی جدی، به همراه مسیری برای دسترسی به جزئیات بیشتر، اولین گام حیاتی برای ایجاد فرصت مداخله زودهنگام و درخواست کمک از سوی خانوادهها است. این نوع دسترسی، یکی از چندین اقدامی است که برای حفظ امنیت بیشتر جوانان در هنگام استفاده از ChatGPT مورد نیاز خواهد بود.»
سختگیریهای جدید پس از نگرانیهای امنیتی
OpenAI پس از افشای اینکه مظنون تیراندازی دستهجمعی سال ۲۰۲۵ در بریتیش کلمبیا از ChatGPT استفاده کرده بود، وعده داده بود پروتکلهای امنیتی خود را تقویت کند. بهدنبال گزارشهایی که میگفتند این شرکت پس از مسدودسازی حساب کاربری فرد تیرانداز، موضوع را به پلیس گزارش نداده است، مقامات کانادایی OpenAI را احضار کردند و سم آلتمن نیز بابت این سهلانگاری عذرخواهی کرد.
قابلیتهای تازه برای یادگیری و استراحت کاربران نوجوان
علاوه بر سیستم هشدار جدید، OpenAI امکان فعالسازی حالت مطالعه را از طریق کنترل والدین فراهم کرده است. در این حالت، ChatGPT بهجای پاسخ مستقیم، راهنمایی مرحلهبهمرحله ارائه میدهد تا برای آموزش و یادگیری مفیدتر باشد.
همچنین برای کاربرانی که مدت طولانی با ChatGPT گفتوگو میکنند، پیامهای یادآور استراحت نمایش داده میشود تا به شکلگیری عادتهای سالمتر کمک شود.