گوگل شرکتی که با شعار اصلی «بد نباشم» فعالیت میکند، این روزها دچار تضاد و اختلاف بزرگی در درون مجموعه خود شده است. منشأ این اختلاف بزرگ، پیشنهاد پنتاگون برای همکاری گوگل در بخش هوش مصنوعی و فضای در راستای تکمیل و توسعه سلاحهای جنگی است.
شهریور سال گذشته، 13 فرمانده ارشد نظامی و مدیران فناوری ایالاتمتحده با یکدیگر در مرکز تحقیقاتی پنتاگون واقع در دره سیلیکون (Silicon Valley) که در دو مایلی شرکت اصلی گوگل قرار گرفته با یکدیگر دیدار داشتند. این دومین جلسه هیئت مشاوره نظامی در سال 2016 بود که توسط ارتش امریکا برای بررسی ارتباط منسجمتر ارتش و تکنولوژی در هنگام صحنه نبرد، برگزار میشد. میلو مدین، سخنگوی ارشد گوگل، گفتگوها را به سمت استفاده از هوش مصنوعی در بازیهای رایانهای کشید که در همین راستا اریک اشمیت، رییس سابق گوگل، با استفاده از این تکنولوژی برنامهای راهبردی برای مقابله با دولت چین در طی 20 سال آینده ارائه کرده بود.
چند ماه بعد، وزارت دفاع امریکا، قسمتی از فضای پردازش ابری گوگل را تحت عنوان پروژه Maven به خدمت گرفت. هدف این پروژه تلاش گسترده برای افزایش کارایی هواپیماهای بدون سرنشین بر اساس تکنولوژی فضای ابری بوده که به ماشینهای روی زمین در مسیریابی بهتر کمک کنند.
این قرارداد میتواند میلیونها دلار برای شرکت بزرگی همانند گوگل سودآوری داشته باشد؛ اما در خود گوگل این قرارداد تبدیل به یک بحران بزرگ شد. کسانی که طرفدار لیبرالیسم بودند این قرارداد را بهاندازهای که رئیس جمهورشان را دوست داشتند، تائید میکردند و راضی به کار کردن در این پروژه نبودند. در سال 2010 زمانی که گوگل از چین به علت مسائلی که در سانسور کردن مطالب داشت عقبنشینی کرد، دچار بحران بزرگی شد که رتبه و اعتبار آن شرکت را تحت تأثیر قرارداد. تقریباً 4 هزار نفر از کارمندان 85 هزار نفری گوگل، نامهای تنظیم و امضا کردند و طی این نامه مخالفت خود را در قبال تصمیم گوگل برای شرکت در پروژه Maven اعلام داشتند. علاوه بر این آنها طی همین نامه، خواستار تعلیق کلی فعالیتهای نظامی گوگل شدند.
این نامه را میتوان نتیجه شعار معروف شرکت گوگل با عنوان بدون بدی دانست که در مفهوم کلی نیز میتوان آن را معادل توانستن انجام کارهای غیرانسانی ولی انجام ندادن آنها تلقی کرد. در ادامه کار به جایی کشید که یکی از آزمایشگاههای توسعهدهنده هوش مصنوعی گوگل، خود را از این پروژه کنار کشید. کارمندان مخالف این پروژه دلیل مخالفت خودشان را علاوه بر غیرانسانی بودن، این پروژه را اولین قدم و تلاش دولت امریکا برای ساختن ماشین کشتار میدانند. بر اساس گزارشی که روز دوشنبه از شرکت گوگل در رسانهها منتشر شد، عدهای از کارمندان برای اعلام اعتراض خود نسبت به پروژه Maven بهصورت علنی، از گوگل استعفا دادند.
بحران داخلی گوگل و همزمانی آن با تظاهرات وسیع در امریکا علیه سوءاستفاده شرکتهای صاحب تکنولوژی دره سیلیکون، باعث شد که ساندار پیجای به این حوادث واکنش نشان دهد. او با مشورت
گیری از وکلای گوگل، مرامنامهای برای تکنولوژی هوش مصنوعی گوگل وضع کرد. این مرامنامه بهگونهای تنظیم شده است که متضمن حقوق انسانی و بشردوستانه باشد. این مرامنامه به زودی بهصورت قانونی در استفاده از فناوری هوش مصنوعی عملی خواهد شد. گوگل تنها یکی از شرکتهایی است که در برنامه 10 میلیارد دلاری امریکا برای توسعه رابطه بین تکنولوژی و سلاح، شرکت دارند. سخنگوی گوگل در پاسخ به اینکه آیا نرمشی در زمینه پذیرش کارهای نظامی توسط گوگل بین کارکنان انجام شده یا خیر، گفت که هیچ تغییری وجود نداشته است.چالشی که رئیس کنونی گوگل برای تنظیم اساسنامه بشردوستانه با آن مواجه بود، یکی از بنیادیترین پایههای شرکت با نیازهای آینده به شمار میرود. بیش از یک دهه است که تکنولوژی جای پای خودش را برای پیشرفت سلاحهای جنگی محکم کرده و گوگل به عنوان یکی از پیشگامان فناوری، باید از فرصت به وجود آمده برای گسترش و همهگیر کردن تکنولوژی هوش مصنوعی و فضای ابری خودش استفاده کند. هرچند که اساسنامه گوگل اجازه این کار را تاکنون به آن نداده است. مخالفان همکاریهای نظامی، گوگل را تحتفشار قرار دادهاند تا با دولت قطع همکاری کند. این در حالی است که دولت حاضر بود سالانه میلیاردها دلار بابت همکاری هوش مصنوعی گوگل به آن پرداخت کند. هیچ نهادی بهاندازه ارتش برای توسعه این فناوری سرمایهگذاری نمیکند. اشمیت، مدیر توسعه گوگل (الفابت) که عضوی از هیئت فناوریهای نظامی پنتاگون نیز محسوب میشود، گوگل را برای همکاری با دولت برای مبارزه با تروریسم، امنیت سایبری و ارتباطات از راه دور تحتفشار قرارداده است.
گوگل برای به دست آوردن بازار کسبوکارهای فضای ابری و رسیدن به آرزوی پیچ، یعنی تبدیل شدن به شرکت پیشگام در تکنولوژی، با کنار کشیدن از تجارت فناوریهای تسلیحاتی مسلماً کار سختی خواهد بود.
در داخل شرکت، تنها کسی که با قدرت بر تصمیم گوگل برای شرکت در برنامههای تسلیحاتی و همکاری با پنتاگون، ایستاده است، دایان گربن رئیس Google Cloud است. او در مصاحبهای که در ماههای اخیر انجام داده است از پروژه پنتاگون دفاع کرده و آن را نقطه عطف و پیشرفتی برای گوگل دانسته است. او همچنین در مصاحبه خودش از همکاری چندین ساله گوگل با دولت یاد کرد.
پنتاگون پروژه Maven را یک سال پیش برنامهریزی کرده بود تا بتواند به وسیله آن اطلاعات و دادههای امنیتی را طبقهبندی نماید. گرین در این مورد میگوید که این فقط بخش کوچکی از پروژه بزرگ همکاری گوگل و پنتاگون بوده است. او نقش گوگل را در جنگ با مثال زدن استفاده از پهپاد های هوشمند که میتوانند مینهای زمینی را تشخیص دهند و جان هزاران سرباز را در میدانهای جنگ آمریکایی حفظ کنند، روشنتر کرد. گرین میگوید: حفظ کردن زندگی سربازان یکی از اهداف اصلی ما است. گوگل بارها در مورد همکاری خودش در زمینه نظامی گفته است که این تکنولوژیها هیچوقت بهصورت مستقیم نمیتوانند کسی را مورد حمله قرار دهند و فقط در حد شناسایی است و قدرت تصمیمگیری نهایی نخواهند داشت.
بسیاری از کارمندان گوگل، خیالپردازیهای گرین را غیرمنطقی و غیرعاقلانه میدانند. حتی، اعضای تیم هوش مصنوعی گوگل هم اعتراضات خودشان را به حرفهای گرین بهصورت واضح بیان کردند و با دلایل قانعکنندهای استدلال میکنند که کار کردن با پنتاگون باعث خواهد شد محبوبیت گوگل صدمه بخورد و شرکت در استخدام کارکنان و تعامل با مصرفکنندگان دچار مشکل خواهد شد. گرین در مصاحبه خودش که در کنفرانس Google I/O با خبرنگار بلومبرگ داشت، اعلام کرد این مسئله بیشتر وقت او را در سهماهه گذشته، به خود اختصاص داده است.این مناقشات در گوگل رشته درازی دارد. جف دین، رئیس قسمت هوش مصنوعی گوگل، در کنفرانس Google I/O از نامهای سرگشاده در مورد مخالفت استفاده از هوش مصنوعی در سلاحهای خودکار پرده برداشت. دین گفت که در طی همین نامه، به ارتش گفته که هوش مصنوعی فناوری بسیار مقیدی است اما در کاربردهای مختلف میتواند کمی پیچیده و خطرناک باشد. او گفت: تصمیماتی وجود دارد که به ما قدرت میدهد یک شرکت جداگانه برای استفاده از هوش مصنوعی تشکیل دهیم. سال گذشته بود که چندین مدیر اجرایی از جمله دمیس هسابیس و مصطفی سلیمان که در آزمایشگاههای هوش مصنوعی گوگل مشغول کار هستند و همچنین جفری هینتون، معاون پژوهشی هوش مصنوعی، طی نامهای به سازمان ملل متحد، نگرانیهای خودشان را از توسعه هوش مصنوعی در تسلیحات اعلام کردند.
محتوای کلی نامه به این شرح بود که سلاحهای کشتار خودکار و مستقل، به بشریت اجازه خواهد داد که با سرعت بیشتری نسبت به اکنون، به جنگ و کشت و کشتار ادامه دهد و زمانی فرا میرسد که برای جلوگیری از جنگ، دیر شده است. مدیرعامل قسمت توسعه هوش مصنوعی در لندن بر اساس اخبار منتشر شده قصد خروج از همکاری در پروژه Maven داشته که اظهارنامه او توسط مدیر ارشد DeepMind (شرکت وابسته به گوگل و فعال در زمینه هوش مصنوعی) رد شده است.
ریچارد مویس، بنیانگذار موسسه غیرانتفاعی حقوق بشری در انگلیس، با عنوان Article 36 به پنتاگون در مورد شرکتهایی که ادعا میکنند هوش مصنوعی فقط قادر به تصمیمگیری در سلاح و شناسایی است هشدار داد و گفت که این یک ویژگی برای هوش مصنوعی است که میتواند با گذر زمان آن را تبدیل به یک ابزار برای تشخیص هدف و غیر هدف کند. مویس که عضوی از هیئت DeepMind است تا کنون درباره پروژه پنتاگون با گوگل و شرکت DeepMind صحبتی نکرده است.
سیستم هوش مصنوعی ارتشی، هماکنون هم مشکلات زیادی دارد. ناگات دد، مدیر بنیاد حقوق دیجیتالی، شکایت حقوقی دو گزارشگر الجزیره را که به اشتباه در لیست اهداف جنگی هواپیماهای بدون سرنشین آمریکایی قرار گرفته بودند را به پنتاگون تقدیم کرده است. او این نامه را برای گوگل هم فرستاده است و از مدیر این شرکت درخواست کرده است که همکاری خودش را در پروژه Mavel لغو کند، هر چند هیچ واکنشی دریافت نکرده است.نگرانی اصلی این است که برخی از کارشناسان حوضه هوش مصنوعی، میگویند که این تکنولوژی به حد کافی قابل اعتماد نیست و میتواند توسط هکرها مورد حمله و سوءاستفاده قرار گیرد. گری مرکوس، پژوهشگر حوضه هوش مصنوعی، در دانشگاه نیویورک میگوید: من به هیچ دستگاهی نمیتوانم در تصمیمگیریهای حساس اعتماد کنم. به گفته مارکوس این پروژه یک منطقه خاکستری در حوضه تکنولوژی است. به این معنی که مردم نمیتوانند درک صحیحی از کاربرد منطقی آن در زمینه تسلیحاتی داشته باشند. به گفته مارکوس، اگر گوگل بخواهد با ارتش در برنامههای طبقهبندیشده همکاری کند، مردم حقدارند که در مورد آنچه که در آینده میخواهد عرضه کند یا میخواهد تبدیل به چه شرکتی شود، نگران شوند. هرچند که گوگل گواهینامههای لازم برای شرکت در برنامههای نظامی طبقهبندیشده را تا به حال نداشته است. سخنگوی گوگل در مورد تصمیم به دست آوردن این گواهینامه تا کنون حرفی نزده است.
از زمانی که گرین در سال 2015 برای اداره بخش هوش مصنوعی گوگل به کار گرفته شده است، خدماترسانی گوگل به دولت در کمتر شده است. بر اساس گزارش سالیانه بلومبرگ، سال گذشته دفاتر فدرال امریکا حدود 6 میلیارد دلار برای سرمایهگذاری روی پروژههای طبقهبندیشده روی هوش مصنوعی انجام دادهاند. حدود یکسوم از این سرمایهگذاری از سوی ارتش بوده است. آمازون، مایکروسافت و اوراکل بازیکنان بزرگ این بازی خطرناک هستند. شرکتی همانند آمازون 600 میلیون دلار از درامد خودش را مدیون همکاری با آژانس اطلاعاتی مرکزی امریکا در سال 2014 بوده است.
گرین مدیری که با برنامههای همکاری گوگل و پنتاگون موافق است، تصمیم گرفته که برای رقابت با دیگر بزرگان تکنولوژی دست به تصمیمهای جدیدی بگیرد. وی در مصاحبه ماه گذشته خودش گفت: ما با دولت همکاری خواهیم داشت، چرا که دولت نیاز شدیدی به تکنولوژی و دنیای الکترونیک دارد. موضوعی که این روزها میتواند به دولت کمک کند، هوش مصنوعی است هرچند بحثهای زیادی برای بهکارگیری آن وجود دارد.
در ابتدا دولت امریکا هوش مصنوعی را به عنوان یک عامل پیشرفت در سلاحهای خودش میدانست ولی اخیراً این فناوری و دستیابی به آن تبدیل به بازی رقابتی بین امریکا، چین و روسیه شده است. از این رو دولت ترامپ سعی دارد با تدابیر خاصی تهدیدهای رقابتی دو کشور دیگر را از بین ببرد. پروژه Maven بهطور عجیبی ماههای گذشته 100 میلیون دلار دیگر برای توسعه بودجه دریافت کرده است. دولت این مبلغ را برای کاهش زمان پیشرفت و همچنین کم کردن روندهای دولتی برای گرفتن بودجههای پروژههای نظامیتان است.سخنگوی وزارت دفاع امریکا، آدرریکا هریس میگوید: ما برای توسعه پروژه هوش مصنوعی در صنایع نظامی از شرکتهای بسیار زیادی و سازمانهای وابسته به وزارت دفاع استفاده کردهایم و در حال حاضر هم در حال رایزنی با شرکتهای دیگر برای پیشرفت برنامه Maven هستیم. این یک برنامه داخلی و بسیار حساس است و نمیتوانیم از جزییات آن، به خبرگزاریها اطلاع دهیم.
جیمز ماتیس در ماه اوت، دیداری خصوصی در دفتر گوگل داشت و با گرین و پیجای و سرگی برین، از بنیانگذاران هوش مصنوعی بر سر موضوعات مختلف اظهارنظر و صحبت کرده است. آنها بر روی فرصت مناسب همکاری در مورد هوش مصنوعی و فضای ابری همانند دیگر فرصتهای موجود که یکی از آنها، پیدا کردن راه جدید برای به اشتراک گذاشتن طیف مخابراتی متعلق به ارتش که هم کنون در حال توسعه به دست گوگل است، بحث و گفتوگو کردند. اشمیت یکی از مدیران اصلی گوگل که رئیس سابق گوگل هم محسوب میشود در این جلسه بر اساس گفته خودش که با همکاری پنتاگون مخالف است، حضور نداشت. همچنین مانیس از مایکروسافت و آمازون هم در طی سفر خودش به دره سیلیکون بازدید کرد.
برخی از مدیران گوگل و صنایع وابسته به تکنولوژی رابطه گرم خودشان را با دولت سالها پیش از دست داده بودند. زمانی که ادوارد اسنودن بهصورت علنی اسنادی را فاش کرد و گوگل بهصورت آشکارا این اسناد را انتشار داد، همهچیز بین دولت و شرکت گوگل و مدیران آن شکر آب شد. یکی از مدیران گوگل در مصاحبه اخیری که داشت، دیدارهای جدید و برنامههای همکاری بیم دولت و سازمانهای دره سیلیکون را خوشبینانه و به نوعی آشتی از طرف دولت با شرکتهایی نظیر گوگل میدانست.
شاید گوگل و برخی از مدیرانش تصمیم خودشان را گرفته باشند اما رسیدن به یک تصمیم جمعی میان کارکنان آسان نخواهد بود. در ماههای اخیر گرین به عنوان حامی پروژه جلسههای پرسش و پاسخ متعددی برای جلب نظر کارمندانش برگزار کرده است. یکی از کارمندان در صحبتهای خودش گفته است که هدف گرین از این جلسههای این است که اگر ما این فرصت را از دست دهیم، شرکت دیگری به هر قیمتی آن را از ما خواهد دزدید. این شخص در ادامه گفته است که استدلالهای گرین به شدت مسخره و خندهدار است. بحث بر سر این موضوع به عنوان یکی از جنجالیترین موضوعات داخلی گوگل از سوی مجله نیویورکتایمز معرفی شده است. پیچای بارها این موضوع و تصمیمگیری بر سر آن را با کارمندان خودش مطرح کرده است ولی تاکنون به تصمیم جمعی و واحد نرسیدهاند.مدیرعامل گوگل در کنفرانس Google I/O سخنی از این قرارداد با دولت و پنتاگون نزد. چند تن از مدیران اجرایی گوگل در اظهارنظری مشترک به تصمیم عاقلانه پیچای اعتماد کردهاند. هرچند موضوع استفاده از هوش مصنوعی در زمینه تسلیحاتی بحث گستردهای در شرکت گوگل به پا داشته بود، اما جو کنفرانس را درگیر نکرده بود. فی فی لی کسی که هوش مصنوعی را برای فضای ابری گوگل توسعه داده است، در اظهارنظر خودش بارها تأکید کرد که این تکنولوژی برای کارهای خیرخواهانه و بشردوستانه استفاده خواهد شد. گرین در کنار دست او نشسته بود، سر خودش را به علامت تائید گفتههای او تکان میداد.