آموزش اجرای مدل‌های هوش مصنوعی روی گوشی اندرویدی

آیا تا به حال به این فکر کرده‌اید که بتوانید قدرت هوش مصنوعی را مستقیماً روی گوشی هوشمند خود تجربه کنید؟ دیگر نیازی به اتصال دائمی اینترنت یا نگرانی بابت حریم خصوصی داده‌هایتان نیست. امروزه با معرفی گوشی‌های هوشمند قدرتمند امکان اجرای مدل‌های LLM سبک و کارآمد فراهم شده که در ادامه نحوه پیاده‌سازی آن می‌پردازیم.

فهرست مطالب این مقاله:

- چالش‌های اجرای LLM ها روی گوشی اندرویدی
- مدل MNN Chat؛ هوش مصنوعی قدرتمند و متن‌باز
- نیازمندی‌های سخت‌افزاری و انتخاب مدل مناسب
- راه‌اندازی و استفاده از مدل MNN Chat
- قابلیت‌های پیشرفته MNN Chat
- دیگر ابزارهای هوش مصنوعی آفلاین

مقدمه

هوش مصنوعی مولد و مدل‌های زبان بزرگ LLM، انقلابی در دنیای تکنولوژی ایجاد کرده‌اند. ابزارهایی مانند ChatGPT و Gemini قابلیت‌های شگفت‌انگیزی را در اختیار کاربران قرار می‌دهند. اما اجرای این مدل‌های قدرتمند معمولاً نیازمند سخت‌افزارهای بسیار قوی و اتصال به سرورهای ابری است.

این موضوع چالش‌هایی را برای حریم خصوصی و دسترسی آفلاین ایجاد می‌کند. در این مقاله، به بررسی راهکارهای اجرای مدل‌های هوش مصنوعی سبک‌تر روی دستگاه‌های همراه، به ویژه گوشی‌های اندرویدی، می‌پردازیم.

چالش‌های اجرای LLM ها روی گوشی اندرویدی

اجرای مدل‌های هوش مصنوعی، به خصوص مدل‌های زبان بزرگ، نیازمند سخت افزار قدرتمند است. در دستگاه‌های همراه مانند گوشی‌های اندرویدی، با محدودیت‌های سخت‌افزاری متعددی روبرو هستیم.

اولین محدودیت به حافظه رم برمی‌گردد. مدل‌های بزرگ به مقدار زیادی حافظه RAM برای بارگذاری و اجرا نیاز دارند. گوشی‌های معمولی ممکن است فضای رم آزاد کافی برای اجرای روان این مدل‌ها را نداشته باشند.

قدرت پردازشی محدود از دیگر چالش‌های این حوزه است. پردازنده‌های موبایل اگرچه پیشرفت چشمگیری داشته‌اند، اما همچنان در مقایسه با کامپیوترها یا سرورها، قدرت پردازشی کمتری دارند.
همچنین اجرای مداوم مدل‌های سنگین می‌تواند شارژ گوشی را به سرعت خالی کند. این چالش‌ها باعث می‌شود که انتظار اجرای مدل‌های بسیار بزرگ و پیچیده (مانند مدل‌های چند صد میلیاردی پارامتری) روی گوشی، غیرواقع‌بینانه باشد.

مدل MNN Chat؛ هوش مصنوعی قدرتمند و متن‌باز

برای غلبه بر این محدودیت‌ها، ابزارها و اپلیکیشن‌های متن‌بازی توسعه یافته‌اند که تمرکزشان بر کارایی و سرعت در دستگاه‌های کوچک است. یکی از بهترین گزینه‌ها در این زمینه MNN Chat است که توسط Alibaba توسعه یافته است.

MNN Chat یک اپلیکیشن اندرویدی متن‌باز است که به شما امکان می‌دهد مدل‌های LLM را به صورت آفلاین و مستقیماً روی گوشی خود اجرا کنید. هدف اصلی این اپلیکیشن ارائه تجربه‌ای سریع و کارآمد برای اجرای مدل‌های سبک است. کد منبع MNN Chat در GitHub در دسترس عموم قرار دارد.

برنامه MNN Chat بهترین عملکرد را در میان تست‌های انجام شده برای اجرای مدل‌های محلی روی اندروید نشان داده است. این اپلیکیشن دارای گالری داخلی است که به شما امکان می‌دهد مدل‌های مختلف را مستقیماً از داخل برنامه دانلود کنید. این مدل‌ها عمدتاً از Hugging Face، یکی از بزرگترین مخازن مدل‌های هوش مصنوعی متن‌باز، دانلود می‌شوند.

همچنین حالت Benchmark Mode برای کمک به انتخاب بهینه‌ترین مدل بر اساس مشخصات سخت‌افزاری گوشی شما وجود دارد. برای وارد کردن مدل (Import Models) علاوه بر دانلود از گالری، امکان وارد کردن مدل‌های دلخواه از منابع دیگر (مثلاً از طریق ADB) نیز وجود دارد.

نیازمندی‌های سخت‌افزاری و انتخاب مدل مناسب

برای داشتن تجربه‌ای قابل قبول با MNN Chat و اجرای LLM های محلی، به سخت‌افزار مناسبی نیاز دارید. در واقع گوشی شما باید حداقل 8 گیگابایت حافظه رم آزاد داشته باشد. برای تجربه بهتر و اجرای مدل‌های کمی بزرگ‌تر، گوشی‌های پرچم‌دار با 12 گیگابایت رم ایده‌آل هستند.

نام مدل‌ها اغلب شامل عددی با پسوند B است (مثال: gemma-7b). این عدد نشان‌دهنده میلیاردها پارامتر (Billions of Parameters) هر مدل است. هرچه تعداد پارامترها بیشتر باشد، مدل توانایی‌های بیشتری دارد اما به حافظه RAM بیشتری نیاز دارد و کندتر اجرا می‌شود.

برای اکثر گوشی‌های میان‌رده و پرچم‌دار، استفاده از مدل‌هایی با حداکثر 4 میلیارد پارامتر (4B) توصیه می‌شود. این انتخاب تعادلی بین عملکرد و نیاز به منابع ایجاد می‌کند. علاوه بر این خانواده مدل‌های Qwen به دلیل عملکرد کلی خوب و قابلیت‌های چندوجهی Multimodal مورد توجه قرار گرفته‌اند.

راه‌اندازی و استفاده از مدل MNN Chat

راه‌اندازی و استفاده از MNN Chat نسبتاً ساده است.  ابتدا باید برنامه MNN Chat را از منابع معتبر (مانند GitHub یا فروشگاه‌های اپلیکیشن) دانلود و نصب کنید. پس از آن برنامه را باز کرده و به بخش Models Market بروید.
مدل مورد نظر خود مانند مدل‌های Qwen و DeepSeek یا Llama در سایزهای مناسب را انتخاب کنید. پس از آن روی دکمه Download کلیک کنید. مدل‌ها مستقیماً از Hugging Face دانلود می‌شوند. پس از دانلود مدل، به بخش My Models بروید. 

مدل دانلود شده را انتخاب کنید تا پنجره چت باز شود. در بخش System Prompt از طریق منوی Settings > System Prompt می‌توانید دستورالعمل‌های اولیه یا زمینه مکالمه را برای مدل تنظیم کنید. همچنین پارامتر Max new tokens طول پاسخ تولید شده توسط مدل را کنترل می‌کند. تنظیم آن می‌تواند به مدیریت پاسخ‌های کوتاه یا بلند کمک کند.

قابلیت‌های پیشرفته MNN Chat

MNN Chat فراتر از یک چت‌بات ساده عمل می‌کند. مدل‌های چندوجهی (Multimodal Models) موجود قابلیت پردازش و درک تصاویر را دارند. این بدان معناست که می‌توانید علاوه بر متن، ورودی‌های تصویری را نیز به مدل بدهید.

با دانلود مدل‌های Text-to-Speech (TTS) و Automatic Speech Recognition (ASR) و تنظیم آن‌ها در بخش مربوطه می‌توانید با LLM خود درست شبیه به دستیارهای صوتی پیشرفته به صورت صوتی صحبت کنید.

همچنین علاوه بر متن، مدل‌هایی برای تولید تصویر (Image Generation)، صدا (Audio) و حتی ویدئو (Video) نیز وجود دارند، اگرچه کیفیت آن‌ها در مقایسه با سرویس‌های ابری ممکن است پایین‌تر باشد.

مهم‌ترین مزایای اجرای LLM ها به صورت محلی روی گوشی عبارتند از:

• حریم خصوصی: داده‌های شما هرگز به اشتراک گذاشته نشده و نیازی به ارسال به سرورهای خارجی نیست. این امر برای اطلاعات حساس بسیار حیاتی است.
• دسترسی آفلاین: پس از دانلود مدل‌ها، می‌توانید بدون نیاز به اینترنت از آن‌ها استفاده کنید.
• بدون هزینه مداوم: برخلاف سرویس‌های اشتراکی ابری، برای استفاده از این مدل‌ها نیاز به پرداخت هزینه وجود ندارد.

همانطور که گفته شد، نباید انتظار داشت که کیفیت خروجی مدل‌های محلی روی گوشی، با سرویس‌های قدرتمند ابری مانند ChatGPT یا Gemini به خصوص در وظایف پیچیده‌ای مانند تولید تصویر یا استدلال‌های بسیار سطح بالا برابری کند. هدف اصلی این تکنولوژی، ارائه قابلیت‌های هوش مصنوعی به صورت محلی، خصوصی و همیشه در دسترس است.

دیگر ابزارهای هوش مصنوعی آفلاین

علاوه بر MNN Chat، برنامه‌ها و ابزارهای متن‌باز دیگری نیز وجود دارند که می‌توانند تجربه کار با LLM های محلی را بهبود بخشند. پتانسیل این فناوری بسیار بالاست. به عنوان مثال، می‌توان با استفاده از LLM های محلی، ابزارهای قدرتمندی مانند یک مدل از Perplexity AI را ساخت.

جمع‌بندی

اجرای مدل‌های هوش مصنوعی سبک روی گوشی‌های اندرویدی، دریچه‌ای نوین به دنیای AI را گشوده است. ابزارهایی مانند MNN Chat با غلبه بر محدودیت‌های سخت‌افزاری، امکان بهره‌مندی از قدرت LLM ها را به صورت آفلاین و با حفظ کامل حریم خصوصی فراهم می‌کنند.

اگرچه کیفیت خروجی ممکن است به پای سرویس‌های ابری نرسد، اما مزایای منحصر به فرد مانند لوکال بودن، این فناوری را برای کاربران کنجکاو و علاقه‌مند به هوش مصنوعی، بسیار جذاب کرده است. با انتخاب مدل‌های مناسب و استفاده از ابزارهای کارآمد، می‌توانید تجربه هوش مصنوعی قدرتمندی را مستقیماً در جیب خود داشته باشید.

مدل‌های هوش مصنوعی به سرعت فضای ذخیره‌سازی گوشی شما را اشغال می‌کنند، لذا مدیریت مداوم آن‌ها ضروری است. اجرای این مدل‌ها به شدت به مشخصات سخت‌افزاری گوشی شما وابسته است.

سوالات متداول

آیا واقعاً می‌توانم مدل‌های بزرگ هوش مصنوعی را روی گوشی خود اجرا کنم؟

شما می‌توانید مدل‌های سبک و بهینه‌شده LLM را روی گوشی‌های اندرویدی مدرن اجرا کنید. اجرای مدل‌های بسیار بزرگ (صدها میلیارد پارامتری) به دلیل محدودیت‌های سخت‌افزاری گوشی، امکان‌پذیر نیست.

بهترین اپلیکیشن برای اجرای LLM روی اندروید چیست؟

MNN Chat یکی از بهترین و کارآمدترین گزینه‌هاست که توسط Alibaba توسعه یافته و تمرکز زیادی بر سرعت و اجرای آفلاین دارد. ابزارهای متن‌باز دیگری نیز وجود دارند.

چه میزان حافظه RAM برای اجرای روان LLM ها روی گوشی نیاز است؟

حداقل 8 گیگابایت رم آزاد توصیه می‌شود. گوشی‌های با 12 گیگابایت رم یا بیشتر تجربه بهتری ارائه می‌دهند.

آیا این مدل‌ها به اینترنت نیاز دارند؟

خیر، پس از دانلود مدل‌ها، می‌توانید به صورت کاملاً آفلاین از آن‌ها استفاده کنید. این یکی از مزایای اصلی اجرای محلی است.

آیا حریم خصوصی من با استفاده از این برنامه‌ها حفظ می‌شود؟

بله، مزیت کلیدی اجرای محلی این است که داده‌ها و مکالمات شما روی دستگاه خودتان باقی می‌ماند و به سرور خارجی ارسال نمی‌شود.

آیا کیفیت پاسخ‌های این مدل‌ها با ChatGPT قابل مقایسه است؟

معمولاً خیر. مدل‌های محلی روی گوشی برای کارایی و سرعت بهینه‌سازی شده‌اند و ممکن است در پیچیدگی، دقت یا وظایف خاص (مانند تولید تصویر) به پای سرویس‌های ابری قدرتمند نرسند.