اوپن‌اِی‌آی قابلیت‌های ایمنی جدید برای نوجوانان در ChatGPT معرفی کرد
شرکت OpenAI در تازه‌ترین اعلامیه خود از توسعه سیستم‌های جدید برای حفاظت بیشتر از نوجوانان هنگام استفاده از ChatGPT خبر داد. این شرکت در حال طراحی یک سازوکار بلندمدت برای تشخیص سن کاربران است تا بتواند تجربه‌ای متناسب با گروه سنی ارائه دهد. به این ترتیب، در صورتی که کاربری زیر ۱۸ سال شناسایی شود، به نسخه‌ای هدایت خواهد شد که شامل محدودسازی دسترسی به محتوای جنسی صریح و همچنین مداخلات ویژه در شرایط آشفتگی روانی خواهد بود؛ در چنین مواردی حتی امکان درگیر شدن نهادهای قانونی نیز وجود دارد.
اوپن‌اِی‌آی تأکید کرده است که در صورت تضاد میان اصول، ایمنی نوجوانان را بر حریم خصوصی و آزادی عمل اولویت خواهد داد. از سوی دیگر، این شرکت وعده داده است که تا پایان ماه جاری، ابزارهای کنترل والدین را نیز عرضه کند. والدین می‌توانند حساب خود را از طریق دعوت‌نامه ایمیلی به حساب نوجوانان ۱۳ سال به بالا متصل کنند. این کنترل‌ها به والدین اجازه می‌دهد نحوه پاسخ‌گویی ChatGPT را مدیریت کنند، قابلیت‌هایی مثل حافظه و تاریخچه چت را غیرفعال کنند و حتی در صورت فعال‌سازی، اعلان‌هایی درباره وضعیت روحی فرزندشان دریافت نمایند. همچنین قابلیتی برای تعیین ساعات ممنوعیت استفاده (Blackout Hours) در دسترس خواهد بود.
اوپن‌اِی‌آی اذعان کرده است که پیش‌بینی دقیق سن کاربر کار دشواری است. به همین دلیل، اگر سیستم در تشخیص سن دچار تردید شود، به‌طور پیش‌فرض کاربر را در دسته زیر ۱۸ سال قرار خواهد داد. البته بزرگسالان امکان اثبات سن خود را خواهند داشت، هرچند هنوز جزئیات این فرآیند مشخص نشده است. این شرکت همچنین توضیح داده که رویکردش در این زمینه بر اساس گفت‌وگو با کارشناسان، گروه‌های مدافع حقوق کودکان و سیاست‌گذاران شکل گرفته است. اوپن‌اِی‌آی اعلام کرده که به‌طور مستمر بر اساس بازخوردها سیستم خود را ارتقا خواهد داد تا تجربه‌ای امن‌تر برای تمامی کاربران ایجاد کند.
اقدام اوپن‌اِی‌آی برای معرفی قابلیت‌های ایمنی ویژه نوجوانان در ChatGPT نشان می‌دهد که این شرکت به‌طور جدی به مسئولیت اجتماعی و ایمنی کاربران جوان توجه دارد. در شرایطی که دولت‌ها به سمت الزامی‌کردن احراز هویت سنی در فضای آنلاین پیش می‌روند، این رویکرد پیشگیرانه می‌تواند جایگاه اپن‌اِی‌آی را به‌عنوان یکی از پیشگامان ایمنی دیجیتال تثبیت کند.