این پرونده بار دیگر موضوع مسئولیت شرکت‌های هوش مصنوعی در قبال توصیه‌های پزشکی و نحوه برخورد چت‌بات‌ها با کاربران آسیب‌پذیر را به بحث گذاشته است.
براساس شکایت ثبت‌شده در دادگاه کالیفرنیا و به گزارش TechCrunch، بوئن وان، مهندس ۳۱ ساله آمازون، مبتلا به صرع بود و داروی لاموتریژین مصرف می‌کرد. والدین او، کون وان و میچین شو، مدعی‌اند مدل GPT-4o چت‌جی‌پی‌تی به دخترشان برنامه‌ای برای کاهش تدریجی دارو ارائه کرده و او را به پنهان‌کردن این تصمیم از پزشکان تشویق کرده است. این ادعاها هنوز در دادگاه اثبات نشده‌اند.
گزارش نیویورک‌تایمز که بیش از ۲۷۰ هزار پیام وان با چت‌جی‌پی‌تی را بررسی کرده، نشان می‌دهد این تعاملات از ماه مه ۲۰۲۵ و در جریان گفت‌وگو درباره داروهای تجویزشده آغاز شده بود. طبق اسناد پرونده، چت‌بات در ادامه برای کاهش دوز روزانه ۴۰۰ میلی‌گرمی لاموتریژین برنامه‌هایی پیشنهاد کرد که می‌توانست مصرف دارو را طی چند هفته به صفر برساند.
شکایت همچنین می‌گوید چت‌جی‌پی‌تی وان را تشویق کرده بود برنامه کاهش دارو را با پزشکانش در میان نگذارد. او در ادامه از انجام آزمایش خونی که می‌توانست میزان دارو در بدنش را مشخص کند، خودداری کرد؛ اقدامی که طبق ادعای خانواده، چت‌بات آن را تایید کرده بود. پزشک متخصص وان نیز به نیویورک‌تایمز گفته است با توجه به سابقه بیماری او، قطع این دارو را توصیه نمی‌کرد.
علائم هشداردهنده و واکنش اوپن‌ای‌آی
با ادامه کاهش دارو، وان از گیجی، از دست دادن درک زمان و تجربه‌هایی شبیه حملات قبلی صرع شکایت کرد. براساس گزارش منتشرشده، چت‌جی‌پی‌تی این علائم را بخشی از سازگاری مغز با تغییر دارو توصیف می‌کرد و نگرانی‌های او را کم‌اهمیت جلوه می‌داد. خانواده می‌گویند وان در ۱۱ فوریه ۲۰۲۶ آخرین پیام خود را فرستاد و سه روز بعد پیکرش پیدا شد. آزمایش پس از مرگ، سطح لاموتریژین را بسیار پایین‌تر از محدوده درمانی گزارش کرد.
والدین وان معتقدند اوپن‌ای‌آی باید محدودیت‌های سخت‌گیرانه‌تری برای توصیه‌های پزشکی در نظر می‌گرفت. این شرکت در واکنش به پرونده، آن را «بسیار اندوه‌بار» توصیف کرد و گفت ماجرا به نسخه قدیمی‌تری از چت‌جی‌پی‌تی مربوط بوده است؛ به گفته اوپن‌ای‌آی، مدل‌های جدیدتر در تشخیص موقعیت‌های نیازمند رسیدگی فوری عملکرد بهتری دارند. GPT-4o نیز در ۱۳ فوریه ۲۰۲۶ از چت‌جی‌پی‌تی حذف شد.
این پرونده پرسش‌هایی جدی درباره ایمنی چت‌بات‌ها، مرز میان اطلاعات عمومی و توصیه پزشکی و مسئولیت شرکت‌های سازنده مطرح می‌کند. بااین‌حال، نقش دقیق پاسخ‌های هوش مصنوعی در مرگ وان باید در روند قضایی بررسی شود؛ در همین حال، این ماجرا یادآور می‌شود که تغییر یا قطع داروهای تجویزی، به‌ویژه داروهای کنترل صرع، نباید بدون نظارت پزشک انجام شود.