گوگل بهتازگی اپ جدیدی به نام AI Edge Gallery را روی گیتهاب منتشر کرده است. این برنامه هنوز در گوگل پلی استور موجود نیست و بهصورت یک پروژهی آزمایشی برای اندروید طراحی شده تا مدلهای مولد هوش مصنوعی را بهصورت آفلاین در دستگاه اجرا کند. گفته میشود نسخهی iOS این اپ نیز بهزودی در دسترس قرار میگیرد.
برخلاف اپ Gemini که پردازش درخواستها را روی سرورهای گوگل انجام میدهد، AI Edge Gallery کاملاً محلی عمل میکند. یعنی کاربر ابتدا مدلهای هوش مصنوعی دلخواهش را دانلود میکند و سپس کل محاسبات روی خودِ گوشی یا تبلت انجام میشود. این موضوع علاوه بر افزایش حریم خصوصی، امکان دسترسی به هوش مصنوعی بدون اتصال به اینترنت را نیز فراهم میکند. در اپهای مبتنی بر پردازش ابری مثل Gemini یا ChatGPT، همهی درخواستها به سرور ارسال میشوند و پردازش بیرون از دستگاه انجام میشود. بعد از نصب AI Edge Gallery، صفحهی اصلی شامل سه گزینهی اصلی میشود:
Ask Image: اضافهکردن تصویر و پرسش در مورد آن.
Prompt Lab: شامل تبهای Free Form (ورود متن آزاد)، Rewrite Tone (تغییر لحن)، Summarize Text (خلاصهکردن) و Code Snippet (ایجاد قطعهکد).
AI Chat: چت متنی دوطرفه با مدل.
برای هر حالت، کاربر میتواند یکی از مدلهای نصبشده را انتخاب کند. از ابتدا چهار مدل همراه اپ ارائه میشود (هرچند باید جداگانه دانلود شوند):
Gemma-3n-E2B-it-int4
Gemma-3n-E4B-it-int4
Gemma3-1B-IT q4
QWEN2.5-1.5B-Instruct q8
علاوه بر اینها، میتوانید با فشردن دکمهی + پایین صفحه مدلهای محلی دیگری را هم وارد کنید. بسته به مدل و سختافزار دستگاه، اپ ممکن است از CPU یا GPU برای پردازش استفاده کند؛ در صورت بهرهمندی از شتابدهی GPU، پاسخها سریعتر تولید خواهند شد. علاقهمندان تکنولوژی که میخواهند مدلهای قدرتمند AI را در محیطی خصوصی و بدون وابستگی به سرور تجربه کنند، احتمالاً از AI Edge Gallery استقبال خواهند کرد. از میان تمام اپهای آفلاین AI که روی اندروید امتحان شده، این اپ نسبت به سایر نمونهها پختهتر و شبیه به یک برنامهی رسمی گوگل بهنظر میرسد. برای توسعهدهندگان نیز امکان تست مدلهای LiteRT با فرمت .task فراهم شده است. در نظر داشته باشید پردازش آفلاین باعث مصرف بیشتر پردازنده و در نتیجه تخلیهی سریعتر باتری میشود.
عملکرد محلی AI Edge Gallery مدیون موتور LiteRT (Lite Runtime) توسعهیافته توسط گوگل است. این نرمافزار بهینهشده امکان اجرای سریع ویژگیهای هوش مصنوعی را بدون ارسال دادهها به ابر فراهم میکند. البته رابط کاربری و تجربهی کاربری بدون شک مثل پاسخهای سروری نخواهد بود؛ چون محدودیت سختافزاری موبایل بهمراتب کمتر از سرویسهای ابری قوی است. از دیگر چالشها میتوان به حجم زیاد مدلها اشاره کرد؛ مدلهای پیشفرض بین ۵۶۰ مگابایت تا ۴.۴ گیگابایت حجم دارند و تا وقتی حذفشان نکنید در حافظهی دستگاه باقی میمانند، بنابراین قبل از دانلود حتماً فضای خالی کافی در نظر داشته باشید. در حال حاضر نسخهی اندروید این اپ از طریق فایل APK روی گیتهاب ارائه میشود و از گوگل پلی استور قابلدریافت نیست. امیدواریم در آینده نسخهی رسمی هم در فروشگاه گوگل و اپ استور اپل منتشر شود تا دسترسی سادهتر شود.
با AI Edge Gallery، گوگل نخستین گام جدی خود را برای آوردن مدلهای بزرگ زبانی به محیط آفلاین موبایل برداشته است. استفاده از موتور LiteRT امکان اجرای سریع و خصوصی مدلها را فراهم میکند، هرچند برای تجربهی پرسرعتتر باید به سرورهای ابری متکی بود. در آینده، اگر گوگل امکان مدیریت سادهتر مدلهای آفلاین را در تنظیمات سیستم فراهم کند، عرصهی جذابتری برای بهرهگیری از AI در موبایل ایجاد خواهد شد. فعلاً میتوانید AI Edge Gallery را از گیتهاب دانلود کنید و از تجربهی AI محلی لذت ببرید.