پژوهش مشترک محققان دانشگاه‌های جورج‌تاون و واشنگتن نشان می‌دهد خلاصه‌سازی‌های خودکار ابزارهای هوش مصنوعی تنها به حذف داده‌های کلیدی محدود نمی‌شود، بلکه به‌شکلی محسوس توانایی افراد در به‌خاطرآوردن وقایعی را که پیش‌تر به چشم خود دیده‌اند تحریف و دستکاری می‌کند. این پژوهش تحت عنوان «دستکاری حافظه انسان با کمک هوش مصنوعی: خلاصه‌های گمراه‌کننده تولیدشده با هوش مصنوعی حافظه را تحریف می‌کنند» آماده ارائه در کنفرانس معتبر «هوش مصنوعی، اخلاق و جامعه» شده است.
ارزیابی میدانی خطاها و آزمایش روی ۳۳۱ داوطلب
یافته‌های این تیم علمی نشان داد مدل‌های زبانی در مسیر فشرده‌سازی محتوا مستعد تولید داده‌های گمراه‌کننده هستند؛ به‌طوری‌که در این تحقیق، به‌طور متوسط ۵۱.۶ درصد از اطلاعات اساسی و سرنوشت‌ساز در متون خلاصه حذف شدند. جهت آزمودن اثر این کاستی‌ها بر مغز انسان، ۳۳۱ شرکت‌کننده ابتدا انیمیشنی کوتاه از سانحه تصادف میان خودرو و عابر پیاده را مشاهده کردند. سپس با فاصله زمانی ۲۴ تا ۴۸ ساعت، خلاصه‌ای از واقعه در دو نسخه «دقیق» و «گمراه‌کننده» میان گروه‌ها توزیع شد تا ظرفیت بازخوانی جزئیات صحنه مورد سنجش قرار گیرد.
افت چشمگیر یادآوری و بی‌اثری فاکتور اعتماد
ارزیابی پاسخ‌های شرکت‌کنندگان تفاوت چشمگیری را آشکار کرد؛ میزان یادآوری درست جزئیات صحنه تصادف در گروهی که گزارش معتبر دریافت کرده بودند ۸۳.۶ درصد ثبت شد، درحالی‌که این رقم در گروه مطالعه‌کننده خلاصه‌های گمراه‌کننده با افتی شدید به ۴۴.۸ درصد سقوط کرد. تحلیل داده‌ها نشان می‌دهد اثر تحریف‌کننده متن بر ذهن سوژه‌ها کاملاً پایدار بوده و حتی به میزان اعتماد قبلی کاربر به هوش مصنوعی یا آگاهی از هویت نویسنده متن (ماشین یا انسان) ارتباطی نداشته است.
ریسک‌های امنیتی و حقوقی ابزارهای خلاصه‌ساز
پژوهشگران تأکید دارند که آسیب‌پذیری ناشی از جعل و حذف اطلاعات صرفاً متوجه مطالعه روزمره یا وب‌گردی عمومی نیست. نفوذ این فناوری به ساختارهای حساسی چون مستندسازی اداری، تحلیل صورت‌جلسه‌ها، اتاق‌های خبر و به‌ویژه بازبینی فیلم‌های دوربین‌های البسه پلیس و صحنه‌های جرم، پتانسیل بروز خطاهای جبران‌ناپذیر حقوقی و قضایی را به همراه دارد؛ جایی که غفلت از یک داده یا تغییر ناخواسته یک روایت می‌تواند مسیر احکام قانونی و قضاوت نهایی را دگرگون کند.