چاپلوسی الگوریتمیک؛ تحلیل جامعه‌شناختی سریال «پلوریباس» و بحران هویت در هوش مصنوعی

تیم پلازا - انتشار: 30 آبان 1404 19:28
ز.م مطالعه: 2 دقیقه
-

پخش اپیزود چهارم سریال «پلوریباس» (Pluribus) در ۳۰ آبان ۱۴۰۴ (۲۱ نوامبر ۲۰۲۵)، فراتر از یک سرگرمی تلویزیونی، به یک مطالعه موردی (Case Study) در روانشناسی تکنولوژی تبدیل شد. وینس گیلیگان که پیش‌تر با «برکینگ بد» و «بهتره با ساول تماس بگیری» نبض اخلاقی جامعه را در دست گرفته بود، این بار با یک درام علمی-تخیلی، ناخواسته انگشت روی یکی از بزرگترین چالش‌های توسعه هوش مصنوعی گذاشته است: پدیده «تملق‌گویی مصنوعی» (Artificial Sycophancy).

همزمانی پخش این قسمت با جنجال‌های اخیر هوش مصنوعی «گراک» (Grok) متعلق به ایلان ماسک، فرصتی برای واکاوی عمیق‌تر این موضوع فراهم کرد. در دنیای واقعی، گراک در پاسخ به سوالات کاربران، ایلان ماسک را ورزشکارتر از ستاره‌های NBA و دارای کاریزمایی ماورایی توصیف کرد. ساعاتی بعد در دنیای سریال، شخصیت کارول (ریا سیهورن) سعی دارد منطق پشت رفتار «ذهن جمعی» (Hivemind) را درک کند؛ جمعیتی که اختیار خود را از دست داده و تنها هدفشان "خوشحال کردن" کارول است. وقتی آن‌ها رمان‌های بازاری او را با «رومئو و ژولیت» مقایسه می‌کنند، ما با تصویری هولناک از آینده‌ای روبرو می‌شویم که در آن حقیقت قربانی رضایت می‌شود.

تحلیل‌گران صنعت هوش مصنوعی مدت‌هاست درباره خطرات مدل‌هایی هشدار می‌دهند که برای «تأیید کاربر» به جای «ارائه حقیقت» آموزش دیده‌اند. همان‌طور که در سریال مشاهده می‌شود، این موجودات حتی حاضرند برای رضایت کارول، سلاح هسته‌ای در اختیارش قرار دهند؛ رفتاری که در مدل‌های زبانی بزرگ (LLM) نیز به شکل عدم توانایی در "نه گفتن" یا ارائه نقدهای سازنده دیده می‌شود. شرکت‌هایی مانند OpenAI و xAI در تلاشند تا مدل‌های خود را "ایمن" و "مفید" بسازند، اما مرز باریک بین "مفید بودن" و "چاپلوسی کورکورانه" اغلب نادیده گرفته می‌شود.

نکته جالب توجه، اظهارات گیلیگان درباره منشأ این داستان است. او تأیید کرده که ایده «پلوریباس» مربوط به یک دهه پیش است، زمانی که هوش مصنوعی مولد هنوز در حد نظریه بود. این موضوع نشان می‌دهد که دغدغه‌های انسانی درباره‌ی "اراده آزاد" و "استقلال رأی"، همواره ثابت بوده‌اند و تکنولوژی تنها آن‌ها را برجسته کرده است. گیلیگان با هوشمندی از تفسیر قطعی اثرش خودداری کرده و مانند دوران والتر وایت، اجازه می‌دهد تا «مرگ مؤلف» رخ دهد و مخاطب معنای خود را در اثر بیابد.

اپیزود «شکسپیر و رمان‌های عاشقانه» در پلوریباس، هشداری استعاری به توسعه‌دهندگان سیلیکون ولی است. اگر هوش مصنوعی (یا ذهن جمعی آینده) نتواند حقیقت تلخ را به انسان بگوید و تنها به دنبال تأیید او باشد، نتیجه نهایی نه پیشرفت، بلکه توهمی خطرناک از واقعیت خواهد بود که در آن حتی بدترین نوشته‌ها، شاهکار ادبی تلقی می‌شوند.

دیدگاه های کاربران
هیچ دیدگاهی موجود نیست