با فراگیر شدن ابزارهای هوش مصنوعی در شرکتها، حالا علاوه بر افزایش بهرهوری، یک نگرانی تازه هم پررنگ شده است: هزینههای پیشبینینشده و گاهی سرسامآور ناشی از مصرف مدلهای زبانی.
به گزارش Axios، یک مشاور حوزه هوش مصنوعی فاش کرده یکی از مشتریانش پس از آنکه برای استفاده کارکنان از Claude (محصول شرکت Anthropic) سقف مصرف تعیین نکرده بود، تنها برای یک ماه با صورتحسابی در حدود ۵۰۰ میلیون دلار روبهرو شده است. در این گزارش نام شرکت ذکر نشده و همچنین مشخص نیست چند نفر در آن سازمان از Claude استفاده میکردهاند.
طبق این گزارش، اگرچه شرکتها معمولاً برای کارکنان خود «مجوز» تهیه میکنند، اما این مجوزها عموماً با سقف مصرف توکن همراه است. توکن واحد اندازهگیری مصرف در مدلهای هوش مصنوعی است و هرچه کاربر بیشتر از ابزار استفاده کند (متن بیشتری وارد کند، خروجی بیشتری بگیرد یا کارهای پیچیدهتری انجام دهد) توکن بیشتری مصرف میشود. اگر مصرف از سقف تعیینشده عبور کند، هزینههای اضافه به صورت «مصرف مازاد» به صورتحساب اضافه خواهد شد؛ موضوعی که به نظر میرسد در این شرکت ناشناس اتفاق افتاده است.
این خبر در شرایطی منتشر میشود که برخی شرکتها به دلیل رشد هزینهها، در حال کاهش یا بازنگری در استفاده از ابزارهای AI هستند. در همین چارچوب، گزارش شده مایکروسافت بخش عمدهای از مجوزهای Claude Code را لغو کرده و قصد دارد تا ۳۰ ژوئن (۱۰ خرداد) به یک ابزار هوش مصنوعی داخلی مهاجرت کند؛ تصمیمی که گفته میشود بخشی از آن میتواند به مدیریت هزینهها مربوط باشد.
در نمونهای دیگر، اوبر پیشتر اعلام کرده بود بودجه سالانه مربوط به هزینههای AI را در مدت پنج ماه مصرف کرده است. مجموعه این نشانهها باعث شده برخی تحلیلگران بگویند استفاده گسترده و پایدار از ابزارهای LLM، بدون مدیریت مصرف و سیاستهای کنترلی، میتواند برای شرکتها چالشبرانگیز شود.
در شبکههای اجتماعی هم این گزارش واکنشهای زیادی داشته؛ از مقایسه با فضای فیلم The Big Short و اشاره به «حباب»، تا شوخیهایی درباره اینکه چه زمانی «مصرف بیمهار توکن» میتواند یک شرکت را به بحران مالی بکشاند.