آیا کنسول بازی PS5 می‌تواند به سرور هوش مصنوعی محلی تبدیل شود؟

پلی‌استیشن ۵ می‌تواند کاری فراتر از اجرای بازی انجام دهد. یک توسعه‌دهنده با هک کنسول و تغییر شیوه اجرای نرم‌افزار، موفق شده مدل زبانی Qwen3.8-27B را با سرعت حدود ۲۰ توکن بر ثانیه روی سخت‌افزار آن اجرا کند. این مدل ۲۷ میلیارد پارامتر دارد و در حالت عادی، برای نگهداری وزن‌های خود به حافظه‌ای بسیار بیشتر از ظرفیت PS5 نیازمند است.

وقتی صحبت از اجرای هوش مصنوعی محلی به میان می‌آید، معمولاً کامپیوترهای قدرتمند مجهز به کارت گرافیک گران‌قیمت یا مینی‌پی‌سی‌هایی با حافظه زیاد به ذهن می‌رسند. اما آیا برای اجرای مدل‌های زبانی حتماً باید سخت‌افزار جدیدی بخریم؟ شاید بتوان از دستگاه‌هایی که همین حالا در اختیار داریم، استفاده‌های متفاوتی کرد.

PS5 با ۱۶ گیگابایت حافظه GDDR6 و پردازنده گرافیکی قدرتمند خود، نمونه‌ای از سخت‌افزاری است که با تغییرات نرم‌افزاری می‌تواند از پس اجرای مدل‌های هوش مصنوعی هم بربیاید. پروژه‌ای که به‌تازگی مورد توجه قرار گرفته، اجرای مدل‌های زبانی نسبتاً بزرگ روی همین کنسول را ممکن می‌کند. نکته اصلی این آزمایش، صرفاً استفاده از GPU برای پردازش هوش مصنوعی نیست؛ بلکه ترکیب چند تغییر نرم‌افزاری است که محدودیت‌های حافظه و اجرای برنامه را دور می‌زند.

پروژه PS5LM امکان اجرای مدل‌های زبانی با ابزار متن‌باز llama.cpp را روی PS5 فراهم می‌کند. نسخه اولیه این پروژه به حدود ۶ گیگابایت حافظه دسترسی داشت و همین محدودیت، اجرای مدل‌های بزرگ‌تر را دشوار می‌کرد. حالا در نسخه اصلاح‌شده PS5LM Plus، اجرای بومی برنامه روی کنسول، استفاده از GPU از طریق رابط Vulkan و یک درایور اصلاح‌شده مبتنی بر RADV، حافظه قابل استفاده را به حدود ۱۱.۴ گیگابایت می‌رسانند. این تغییرات امکان اجرای مدل بزرگ‌تری مانند Qwen3.8-27B را فراهم می‌کنند؛ البته به شرط آنکه حجم مدل با ظرفیت حافظه کنسول سازگار شود.

چطور مدل ۲۷ میلیارد پارامتری در حافظه PS5 جا می‌شود؟

PS5 به ۱۶ گیگابایت حافظه GDDR6 با پهنای باند ۴۴۸ گیگابایت بر ثانیه مجهز است. این مشخصات برای یک کنسول بازی قابل توجه‌اند و پهنای باند بالای حافظه نیز هنگام اجرای مدل‌های زبانی اهمیت دارد. با این حال، تمام حافظه کنسول در اختیار مدل قرار نمی‌گیرد و بخشی از آن برای اجرای سیستم و نرم‌افزارهای موردنیاز مصرف می‌شود.

برای درک بهتر محدودیت، کافی است به حجم وزن‌های مدل Qwen3.8-27B در دقت ۱۶ بیتی نگاه کنیم. این وزن‌ها به‌تنهایی حدود ۵۴ گیگابایت فضا اشغال می‌کنند؛ یعنی بیش از سه برابر کل حافظه PS5. بنابراین، اجرای نسخه معمولی مدل روی این کنسول امکان‌پذیر نیست و باید حجم آن را کاهش داد.

راه‌حل پروژه، استفاده از نسخه کوانتیزه‌شده Qwen3.8-27B-UD-IQ2_XXS است که حجم وزن‌های مدل را به حدود ۶.۸ گیگابایت می‌رساند. در روش کوانتیزاسیون، وزن‌های مدل با دقت عددی پایین‌تری ذخیره می‌شوند تا فضای کمتری اشغال کنند و اجرای مدل روی سخت‌افزارهای محدود امکان‌پذیر شود. در این نسخه، نمایش وزن‌ها به حدود ۲ بیت کاهش یافته است؛ فشرده‌سازی شدیدی که اجرای یک مدل ۲۷ میلیارد پارامتری را در حافظه محدود کنسول ممکن می‌کند، اما می‌تواند بخشی از دقت پاسخ‌ها و توانایی استدلال مدل را نیز کاهش دهد.

البته وزن‌های مدل تنها بخشی از حافظه موردنیاز را تشکیل می‌دهند. هنگام تولید پاسخ، مدل باید اطلاعات میانی پردازش را نگه دارد و حافظه‌ای هم به KV Cache اختصاص پیدا می‌کند. این بخش، اطلاعات مربوط به توکن‌های قبلی را برای ادامه پردازش ذخیره می‌کند و با افزایش طول ورودی و مکالمه، حجم بیشتری از حافظه را به خود اختصاص می‌دهد.

طبق گزارش توسعه‌دهنده، در آزمایش نسخه جدید، طول Context روی ۶۴ هزار توکن تنظیم شده و حدود ۹۱ درصد حافظه قابل استفاده نیز درگیر بوده است. این ارقام نشان می‌دهند که حتی با فشرده‌سازی وزن‌ها، مدیریت حافظه همچنان یکی از چالش‌های اصلی اجرای مدل‌های زبانی روی دستگاه‌هایی مانند PS5 است.

سرعت اجرای هوش مصنوعی روی PS5 چقدر است؟

بر اساس نتایج منتشرشده از سوی توسعه‌دهنده، مدل Qwen3.8-27B روی GPU کنسول به سرعت حدود ۲۰.۹ توکن بر ثانیه می‌رسد. مدل‌های کوچک‌تر با سرعت بیشتری اجرا می‌شوند؛ برای مثال، Gemma 4 E4B حدود ۶۱ توکن بر ثانیه و Llama 3.2 3B حدود ۱۲۴ توکن بر ثانیه تولید می‌کنند. مصرف برق کل کنسول نیز در این آزمایش حدود ۸۶ وات گزارش شده است.

این ارقام نشان می‌دهند که با نرم‌افزار مناسب و استفاده از GPU، سخت‌افزار PS5 قابلیت اجرای مدل‌های زبانی محلی را دارد. با این حال، سرعت تولید توکن به‌تنهایی معیار مناسبی برای سنجش کیفیت خروجی نیست. مدل ۲۷ میلیارد پارامتری با فشرده‌سازی بسیار شدید اجرا می‌شود و سرعت بالاتر مدل‌های کوچک‌تر نیز لزوماً به معنی پاسخ‌های دقیق‌تر یا استدلال بهتر نیست. همچنین، تا زمانی که PS5 و یک کامپیوتر مجهز به کارت گرافیک در شرایط یکسان آزمایش نشوند، نمی‌توان درباره برتری عملکرد یا مصرف انرژی آن‌ها نتیجه‌گیری کرد.

اهمیت این پروژه در آن است که برای اجرای هوش مصنوعی، از همان سخت‌افزاری استفاده می‌کند که از قبل در اختیار کاربر قرار دارد. توسعه‌دهنده نه حافظه کنسول را افزایش داده و نه GPU آن را تغییر داده است؛ بلکه با دسترسی بهتر به منابع موجود، انتقال پردازش به GPU و فشرده‌سازی مدل، امکان اجرای یک مدل زبانی بزرگ را فراهم می‌کند.

توجه داشته باشید که استفاده از این روش به کنسول هک‌شده و نرم‌افزار سازگار نیاز دارد و می‌تواند گارانتی یا دسترسی به خدمات آنلاین را به خطر بیندازد. در نتیجه، PS5 هنوز جایگزین مستقیمی برای کامپیوترهای مجهز به سخت‌افزار مناسب هوش مصنوعی نیست، اما این آزمایش نشان می‌دهد که با تغییر روش استفاده از دستگاه‌های موجود، می‌توان قابلیت‌هایی فراتر از کاربرد اصلی آن‌ها به دست آورد.