وقتی شوخی با ChatGPT به بازداشت ختم شد؛ دستگیری نوجوان ۱۳ ساله در فلوریدا
پلیس فلوریدا اعلام کرد یک نوجوان ۱۳ ساله پس از آن‌که در چت‌بات ChatGPT پرسید «چطور دوستم را وسط کلاس بکشم»، دستگیر شده است. این پرسش از طریق سامانه نظارتی مدرسه شناسایی و به پلیس گزارش شد.
این حادثه در شهر دلند (DeLand) و در مدرسه‌ی Southwestern Middle School رخ داد. سیستم نظارتی مورد استفاده، Gaggle نام دارد؛ شرکتی که با مدارس سراسر آمریکا همکاری می‌کند تا فعالیت‌های آنلاین دانش‌آموزان روی دستگاه‌های مدرسه را پایش کند.
به گفته‌ی گزارش شبکه‌ی محلی WFLA، نوجوان به پلیس گفته که فقط قصد «شوخی» با دوستی را داشته که او را «اذیت کرده بود». با این حال، پلیس این موضوع را بسیار جدی تلقی کرد. دفتر کلانتر شهرستان Volusia در بیانیه‌ای اعلام کرد:
«یک شوخی دیگر که باعث ایجاد وضعیت اضطراری در مدرسه شد. والدین، لطفاً با فرزندان خود صحبت کنید تا مرتکب چنین اشتباهی نشوند.»
دانش‌آموز بازداشت و به بازداشتگاه شهرستان منتقل شد، هرچند هنوز نوع اتهام او مشخص نیست.
سیستم Gaggle فعالیت‌های کاربران را از نظر رفتارهای نگران‌کننده مرتبط با خشونت، خودآزاری یا قلدری رصد می‌کند و حتی گفتگوهای انجام‌شده با چت‌بات‌هایی مثل ChatGPT و Google Gemini را بررسی می‌کند. این شرکت می‌گوید هدفش محافظت از دانش‌آموزان است و در هنگام استفاده از دستگاه‌های مدرسه، هیچ انتظاری از حریم خصوصی نباید وجود داشته باشد.
با این حال، گروه‌های مدافع حریم خصوصی از فعالیت گسترده‌ی Gaggle انتقاد کرده‌اند. الیزابت لِرد، مدیر مرکز «دموکراسی و فناوری»، گفت:
«این سامانه‌ها دسترسی مداوم پلیس به زندگی دانش‌آموزان، حتی در خانه، را عادی کرده‌اند.»
گزارش‌ها نشان می‌دهد بسیاری از هشدارهای صادرشده توسط این سامانه‌ها هشدارهای اشتباه هستند.
در سال‌های اخیر، چت‌بات‌هایی مانند ChatGPT در چندین پرونده‌ی جنایی و موارد مربوط به سلامت روان نقش داشته‌اند. در برخی موارد، تعامل افراد آسیب‌پذیر با چت‌بات‌ها منجر به تشدید اختلالات روانی یا حتی خودکشی شده است. این حادثه نشان می‌دهد پایش هوشمند فعالیت‌های آنلاین دانش‌آموزان تا چه اندازه می‌تواند در پیشگیری از تهدیدهای احتمالی مؤثر باشد، اما در عین حال مرز میان امنیت و حریم خصوصی همچنان موضوعی بحث‌برانگیز و حساس است.