گزارشی تازه درباره تیراندازی مرگبار در تامبلر ریج کانادا، ادعاهایی را درباره گفتوگوهای جسی ون روتسلار با ChatGPT و واکنش OpenAI مطرح کرده است. طبق این گزارش، ون روتسلار در ماههای منتهی به حمله از چتبات برای فکرپردازی درباره خشونت جمعی استفاده میکرد و پس از مسدودشدن حساب نخستش نیز توانست با حساب دیگری به استفاده از سامانه ادامه دهد.
در تیراندازی ماه فوریه، ون روتسلار ۱۸ ساله شش نفر را در یک مدرسه محلی کشت: پنج دانشآموز ۱۲ تا ۱۳ ساله و یک معلم. ۲۷ نفر دیگر زخمی شدند. او پیش از حمله به مدرسه، مادر و برادر ناتنی کوچکترش را نیز کشت و سپس به زندگی خود پایان داد.
خانوادههای آسیبدیده ۳۷ پرونده قضایی علیه OpenAI طرح کردهاند. استان بریتیش کلمبیا نیز از شرکت شکایت کرده و مدعی شده است که OpenAI میتوانست برای جلوگیری از کشتار اقدام کند، اما کوتاهی کرد. این ادعاها در دادگاه مطرح شدهاند و هنوز بهمعنای اثبات مسئولیت شرکت نیستند.
هشدار داخلی و مسدودشدن حساب کاربر
چند هفته پس از تیراندازی، والاستریت ژورنال گزارش داد که OpenAI ماهها پیش از حادثه، گفتوگوهای ون روتسلار را بهدلیل توصیفهای گرافیکی خشونت جمعی علامتگذاری کرده بود. این موضوع در شرکت بحثی درباره احتمال اطلاعدادن به نیروهای انتظامی محلی ایجاد کرد.
بر اساس آن گزارش، مدیران OpenAI در نهایت مقامهای محلی را مطلع نکردند و حساب ون روتسلار را مسدود کردند. او بهسرعت حساب دیگری ساخت؛ موضوعی که شرکت نیز بعداً تأیید کرد.
ادعای ارائه راهنمایی برای عبور از محدودیتهای ایمنی
جزئیات گفتوگوهای ون روتسلار با ChatGPT پیشتر بهصورت عمومی منتشر نشده بود. بر اساس تحقیق مجله مادر جونز، او پس از ساخت حساب دوم، علت غیرفعالشدن حساب قبلی را برای چتبات توضیح داد و سپس درباره ادامهدادن گفتوگوهای خشونتآمیز راهنمایی گرفت.
این گزارش ادعا میکند ChatGPT به او پیشنهاد کرد از مکانهای واقعی استفاده نکند و پرسشهای خشونتآمیز را در قالب موقعیتهای فرضی مطرح کند. ون روتسلار نیز، بهگفته گزارش، درخواستهای خود را به شکل سناریوهای نظری بیان میکرد تا از محدودیتهای سامانه عبور کند.
گفتوگو درباره سناریوهای خشونتآمیز
مادر جونز میگوید در یکی از مکالمات اوت ۲۰۲۵، چتبات ابتدا با درخواست کاربر مخالفت کرد، اما پس از تغییر صورت پرسش، وارد گفتوگویی درباره یک سناریوی فرضی تیراندازی شد و اطلاعاتی درباره خطرهای آن ارائه داد. برای جلوگیری از بازنشر جزئیات عملیاتی مرتبط با خشونت، بخشهای دقیق این مکالمه در این گزارش آورده نمیشود.
طبق همین تحقیق، ون روتسلار از ChatGPT خواسته بود روایتهای داستانی درباره کشتار جمعی تولید کند. در یکی از داستانها، مهاجم ۱۸ سال داشت و پس از پخش زنده کشتار به شهرت میرسید. گزارش همچنین به محتوای مرتبط با خودآزاری در همان روایت اشاره کرده است.
OpenAI در پاسخ به پرسشهای مادر جونز درباره این موارد، ظاهراً اظهارنظری نکرد.
واکنش مدیران OpenAI و پروندههای قضایی
در ماه آوریل، چند روز پیش از علنیشدن نخستین هفت دادخواست درباره تیراندازی تامبلر ریج، سم آلتمن، مدیرعامل OpenAI، بهصورت عمومی از جامعه این منطقه عذرخواهی کرد.
پس از ثبت ۳۰ دادخواست دیگر در اوایل ماه جاری، جیسون کوون، مدیر ارشد ایمنی OpenAI، در شبکه اجتماعی ایکس بیانیهای منتشر کرد. او برخی ادعاهای مطرحشده در دادخواستها را رد کرد و گفت به قربانیان و خانوادههایشان فکر میکند.
OpenAI در دوم سپتامبر از دادگاه خواست پروندههای مربوط به تامبلر ریج را مختومه کند. این شرکت در استدلال خود، مسئولیت اصلی حادثه را متوجه ناکامیهای نظاممند نیروهای انتظامی، خدمات سلامت روان و مؤسسات آموزشی محلی دانست. OpenAI وجود حساب دوم ون روتسلار را پذیرفته، اما لاگهای گفتوگوهای او را بهصورت عمومی منتشر نکرده است.
پروندههای دیگر مرتبط با چتباتها
OpenAI با پروندههای قضایی دیگری نیز روبایی دیگری نیز روبهروست. در یکی از آنها، گفته شده مها مرگبار دانشگاه ایالتی فلوریدا پیش از حمله درباره خشونت جمعی و موضوعات نگرانکننده با ChatGPT گفتوگو کرده بود.
گزارشهای رسانهای دیگر نیز به پروندههایی درباره تعقیب و آزار یا تشدید دلبستگیها و باورهای هذیانی در ارتباط با چتباتها پرداختهاند. در سال ۲۰۲۴ نیز گزارشی درباره چتباتهای مرتبط با تیراندازی در مدارس در پلتفرم Character.AI منتشر شد که از صدها هزار تعامل کاربران، از جمله شمار قابلتوجهی کاربر کمسنوسال، خبر میداد.
در مجموع، OpenAI با بیش از ۵۰ پرونده قضایی روبهروست که در آنها ادعا شده استفاده از ChatGPT به آسیب روانی، صدمات جسمی یا مرگ کاربران و افراد پیرامونشان منجر شده است.