سازندگان ماد با دور زدن محدودیت‌های نرم‌افزاری انویدیا، توان محاسباتی برخی کارت‌های گرافیک گیمینگ این شرکت را به سطحی نزدیک‌تر به مدل‌های حرفه‌ای رسانده‌اند.
کارت‌های گرافیک سری GeForce RTX 30 و RTX 40 انویدیا از تراشه‌هایی استفاده می‌کنند که با تغییراتی در محصولات حرفه‌ای این شرکت نیز به کار رفته‌اند. بااین‌حال، توان محاسباتی آن‌ها در برخی وظایف به‌واسطه محدودیت‌های نرم‌افزاری و میان‌افزار کاهش یافته است. به گزارش Techpowerup، اکنون دو پروژه مستقل تلاش کرده‌اند این محدودیت‌ها را کنار بزنند.
پروژه نخست روی معماری آمپر و کارت‌های گرافیک سری RTX 30 تمرکز دارد. این روش نرخ صدور دستورهای مرتبط با عملیات محاسباتی FP و BF16 را در مسیر پردازش‌های FP32 افزایش می‌دهد. طبق گزارش منتشرشده، این تغییر برای تراشه‌هایGA102 ،GA103 ،GA104 و GA106 در دسترس قرار گرفته است. نتیجه این تغییر در برخی پردازش‌ها چشمگیر است. برای مثال، کارت گرافیک RTX 3090 Ti در محاسبات ضرب ماتریسی با قالب BF16 می‌تواند تا ۸۰ درصد سریع‌تر عمل کند. چنین محاسباتی در اجرای بسیاری از شبکه‌های عصبی و مدل‌های هوش مصنوعی کاربرد دارند.
دو برابر شدن توان محاسباتی RTX 40
پروژه دوم معماری آدا لاولیس (Ada Lovelace) در کارت‌های سری RTX 40 را هدف قرار داده است. این روش توان پردازش FP16 و BF16 را در محاسباتی با انباشت نتیجه در قالب FP32 تا دو برابر افزایش می‌دهد. تراشه‌های AD102 ،AD103 و AD106 ازجمله مدل‌های پشتیبانی‌شده هستند. در آزمایش گزارش‌شده روی RTX 4090، توان محاسباتی FP16 از ۱۶۵.۶ ترافلاپس به ۳۳۱.۶ ترافلاپس رسید. این سطح از عملکرد به اعدادی نزدیک می‌شود که معمولا در محصولات حرفه‌ای مانند RTX 6000 آدا دیده می‌شود. افزایش توان محاسباتی می‌تواند اجرای مدل‌های زبانی بزرگ را، به‌ویژه هنگام پردازش اولیه ورودی‌ها و تولید خروجی، سریع‌تر کند.
محدودیت‌ها و خطرهای این تغییر
هر دو پروژه از درایورهای استاندارد انویدیا استفاده می‌کنند. همچنین، در آزمایش‌های گزارش‌شده، توان مصرفی برد در مدل‌های GA102 و AD102 پیش و پس از تغییر روی ۴۵۰ وات باقی مانده است. بااین‌حال، فعال‌سازی این قابلیت‌ها به تغییرات سطح پایین سیستم نیاز دارد و باید هنگام راه‌اندازی دستگاه انجام شود تا پیش از اتصال درایور انویدیا به کرنل اعمال شوند. مهم‌تر اینکه، دستکاری کارت گرافیک می‌تواند ضمانت آن را باطل کند و خطر ناپایداری یا مشکلات فنی را به همراه داشته باشد.
این پروژه‌ها نشان می‌دهند برخی کارت‌های گرافیک مصرفی انویدیا در پردازش‌های هوش مصنوعی ظرفیت بیشتری از عملکرد پیش‌فرض خود دارند. بااین‌حال، افزایش سرعت در همه برنامه‌ها تضمین‌شده نیست و خطرهای فنی و از دست رفتن ضمانت باعث می‌شود این روش‌ها بیشتر برای کاربران حرفه‌ای و آزمایشگاهی مناسب باشند.