مدیرعامل بخش هوش مصنوعی مایکروسافت هشدار داده است که مشارکت مدلهای هوش مصنوعی در بهبود نسلهای بعدی خود، توانایی خطرناکی محسوب میشود. این هشدار درحالی مطرح شده که مایکروسافت همچنان روی توسعه مدلهای پیشرفته و اضافه کردن ایجنتهای هوشمند به ویندوز ۱۱ کار میکند.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در گفتوگویی با دیدری بوسا خبرنگار سابق شبکه CNBC، نسبت به توانایی روزافزون مدلهای هوش مصنوعی برای بهبود نسلهای بعدی خود ابراز نگرانی کرده است.
به گزارش Windows Latest، سلیمان میگوید مدلهای هوش مصنوعی درحالحاضر برای شناسایی باگها، تولید دادههای آموزشی و ساخت معیارهای ارزیابی استفاده میشوند و نقش آنها در فرایند توسعه مدلهای بعدی بهتدریج افزایش یافته است. او این روند را نوعی خودبهبودی بازگشتی (Recursive Self Improvement) میداند و آن را قابلیتی خطرناک توصیف میکند. به گفته او، تحولات سه ماه اخیر نقطه عطفی در صنعت هوش مصنوعی بودهاند و شرکتهای فعال این حوزه نباید خطرات آن را دستکم بگیرند.
سلیمان معتقد است پیش از عرضه مدلهای قدرتمند باید از ایمنی، قابلیت کنترل و مقاومت آنها در برابر حملات امنیتی اطمینان حاصل شود. او همچنین احتمال میدهد برای رسیدن به این هدف، شرکتها مجبور شوند سرعت توسعه برخی فناوریها را کاهش دهند. بااینحال، وقتی خبرنگار درباره توقف عرضه یا توسعه محصولی به دلیل خطرات احتمالی پرسید، سلیمان صراحتا گفت مایکروسافت تاکنون چنین اقدامی انجام نداده است.
توانایی کشف آسیبپذیریهای امنیتی؛ فرصتی همراه با خطر
بخش دیگری از صحبتهای سلیمان به کاربرد هوش مصنوعی در امنیت سایبری مربوط میشود. مایکروسافت روی مدل اختصاصی MAI Cyber کار میکند که قرار است آسیبپذیریهای سیستمها را شناسایی کند و در مراحل بعدی، امکان اصلاح سریع آنها را در اختیار متخصصان امنیت قرار دهد.
سلیمان ادعا کرده است این مدل در آزمایشهای داخلی توانسته آسیبپذیریهایی را پیدا کند که ممکن است انسانها برای سالها یا حتی دههها متوجه آنها نشده باشند. چنین قابلیتی برای تیمهای امنیتی ارزشمند است، اما اگر ابزارهای مشابه در اختیار مهاجمان قرار بگیرند، میتوانند به شناسایی و بهرهبرداری از ضعفهای نرمافزاری نیز کمک کنند.
سلیمان معتقد است شرکتهای فعال در حوزه هوش مصنوعی باید برای مدیریت خطرات این فناوری همکاری بیشتری داشته باشند. او بر ممیزیهای امنیتی، نظارت مستقل، اشتراکگذاری تجربیات ایمنی و بررسی آسیبپذیریها پیش از انتشار مدلها تاکید کرده است.
اظهارات سلیمان یک تناقض مهم در مسیر توسعه هوش مصنوعی را برجسته میکند: شرکتها از خطر افزایش استقلال مدلها آگاه هستند، اما همزمان برای عرضه ابزارهای قدرتمندتر با یکدیگر رقابت میکنند. ورود ایجنتها به ویندوز ۱۱ نیز این نگرانی را از محیط آزمایشگاه به رایانههای کاربران عادی منتقل میکند. در این شرایط، صرف وعده ایجاد محدودیتهای امنیتی کافی نیست و مایکروسافت باید در عمل نشان دهد که میتواند در صورت مشاهده خطر جدی، توسعه یا عرضه یک قابلیت را متوقف کند.
