انویدیا نسخه جدیدی از DGX Spark را با ۶۴ گیگابایت حافظه یکپارچه معرفی کرده است؛ سیستمی که قرار است اجرای مدل‌های هوش مصنوعی روی کامپیوتر شخصی را کمی دست‌یافتنی‌تر کند. قیمت پایه این نسخه ۴۹۹۹ دلار تعیین شده و قرار است از ۲۳ اکتبر توسط شرکت‌هایی مانند Acer، ASUS، Dell، Gigabyte، HP و MSI عرضه شود.
همانطور که می‌دانید نسخه اولDGX Spark در ابتدا با ۱۲۸ گیگابایت حافظه یکپارچه معرفی شد و از پارسال همین موقع وارد بازار شد. از دید فنی این ظرفیت برای اجرای مدل‌های بسیار بزرگ، یکی از مهم‌ترین ویژگی‌هایی بود که تیم سبز روی آن مانور می‌داد؛ اما حالا هم مدل‌های هوش مصنوعی بهینه‌تر شده‌اند و هم قیمت حافظه به‌شدت بالا رفته است.
در نتیجه انویدیا تصمیم گرفته همان پلتفرم با تراشه GB10 را با ۶۴ گیگابایت حافظه عرضه کند تا هزینه ورود به DGX Spark پایین‌تر بیاید.
چالش حافظه چقدر مانع می‌شود؟
در نگاه اول، شاید نصف شدن حافظه در محصولی که از ابتدا به‌خاطر ظرفیت ۱۲۸ گیگابایتی‌اش برای اجرای مدل‌های بزرگ شناخته می‌شد، تصمیم عجیبی به نظر برسد. اما بازار هوش مصنوعی محلی در همین مدت کوتاه تغییر کرده است. مدل‌هایی که تا چند ماه پیش برای اجرای آنها به حافظه بسیار زیادی نیاز بود، حالا با روش‌های فشرده‌سازی و کوانتایز کردن، روی سیستم‌های کوچک‌تر هم قابل اجرا هستند.
برای نمونه وبسایت Tom's Hardware در معرفی این نسخه جدید 64 گیگ، به مدل Qwen 3.8 27B اشاره می‌کند که می‌تواند با ۳۲ گیگابایت حافظه (البته با محدودیت‌هایی در اندازه Context) نیز اجرا شود. در چنین شرایطی، ۱۲۸ گیگابایت حافظه برای همه کاربران DGX Spark الزاماً یک مزیت ضروری نیست.
در همین رابطه بخوانید:
- سوپر کامپیوتر DGX Spark چیست و چرا NVIDIA آن را ساخته است؟
همان GB10، با حافظه کمتر
انویدیا اصرار دارد که نسخه ۶۴ گیگابایتی قرار نیست از دید کاربردی، یک DGX Spark ضعیف‌تر باشد. قلب دستگاه همچنان GB10 Grace Blackwell Superchip است و انویدیا همان نرم‌افزار و زیرساخت مدل ۱۲۸ گیگابایتی را حفظ کرده است. پردازنده ۲۰ هسته‌ای Arm، پهنای باند حافظه ۲۷۳ گیگابایت بر ثانیه و شبکه ConnectX-7 با سرعت ۲۰۰ گیگابیت بر ثانیه نیز سر جای خود هستند.
مطابق الگوی حافظه‌های یکپارچه، در این ساختار پردازشی، CPU و GPU به یک فضای حافظه مشترک دسترسی دارند و همین موضوع باعث می‌شود DGX Spark برای اجرای مدل‌های زبانی بزرگ، استنتاج (Inference) و کارهای توسعه هوش مصنوعی، بیشتر شبیه یک سیستم AI اختصاصی باشد تا یک کامپیوتر رومیزی معمولی با یک کارت گرافیک قدرتمند.
انویدیا می‌گوید نسخه ۶۴ گیگابایتی همچنان می‌تواند مدل‌هایی تا حدود ۱۰۰ میلیارد پارامتر را به‌صورت محلی اجرا کند؛ البته اندازه مدل به‌تنهایی تصویر کاملی از نیاز حافظه نیست و عواملی مانند دقت مدل، Context و نحوه اجرای آن هم تعیین‌کننده‌اند.
اگر ۶۴ گیگ کم آمد، یک Spark دیگر اضافه کنید
یکی از ویژگی‌های جالب DGX Spark این است که نسخه ۶۴ گیگابایتی عملاً بن‌بست حافظه ایجاد نمی‌کند. وجود پروتکل ConnectX-7 به دستگاه اجازه می‌دهد با یک DGX Spark دیگر از طریق اتصال مستقیم شبکه به یک کلاستر تبدیل شود.
دو دستگاه ۶۴ گیگابایتی می‌توانند فضای حافظه را به ۱۲۸ گیگابایت برسانند و انویدیا می‌گوید در آزمایش خود با Qwen 3.8 27B، اتصال دو سیستم توانسته تا ۱.۷ برابر عملکرد یک دستگاه را ارائه کند. البته این به معنی دو برابر شدن همیشگی عملکرد نیست و نتیجه به نوع بار کاری و نحوه توزیع آن میان دو سیستم بستگی دارد.
انویدیا برای ساده‌تر شدن همین کار، ابزار Sync Cluster Assistant را هم معرفی کرده است. این ابزار قرار است بخش‌هایی مانند شناسایی دستگاه‌ها، تنظیم اتصال شبکه و آماده‌سازی کلاستر را خودکار کند تا کاربر مجبور نباشد برای استفاده از دو Spark وارد جزئیات تنظیمات شبکه و نرم‌افزار شود.
نسخه جدید Model Launcher نیز قرار است اجرای مدل‌هایی مانند Qwen 3.8 27B را روی یک یا چند Spark ساده‌تر کند و آنها را برای استفاده در ابزارهایی مانند OpenCode آماده کند.
در همین رابطه بخوانید:
- راهنمای خرید بهترین رم برای Local AI
- راهنمای خرید بهترین کارت گرافیک برای Local AI
- راهنمای خرید بهترین CPU برای Local AI
۱۲۸ گیگابایت هنوز برای همه‌چیز لازم است
انویدیا در معرفی نسخه جدید اعلام کرده که به هیچ‌وجه برنامه‌ای برای کنار گذاشتن نسخه ۱۲۸ گیگابایتی ندارد. دلیل این تصمیم نیز روشن است: وقتی صحبت از مدل‌های بزرگ‌تر، Contextهای طولانی‌تر، چند مدل همزمان یا Fine-tuning باشد، حافظه بیشتر هنوز ارزش خودش را دارد.
اما مسئله اصلی Local AI در حال حاضر فقط نیاز فنی نیست. قیمت حافظه در بازار فعلی به اندازه‌ای بالا رفته که ۱۲۸ گیگابایت LPDDR5X برای محصولی مثل DGX Spark می‌تواند بخش قابل توجهی از هزینه نهایی را تشکیل دهد. به همین دلیل، نسخه ۶۴ گیگابایتی بیشتر از آنکه یک مدل ارزان‌شده باشد، پاسخی به این سؤال است که «آیا واقعاً همه کاربران به ۱۲۸ گیگابایت نیاز دارند؟»
شاید بتوان گفت که علت اصلی ساخت و عرضه این محصول همان بحث قیمتی است که به دلیل بحران حافظه ناشی از افزایش توجه به جهش موج توجه به کاربردهای هوش مصنوعی، این روزها هر دستگاهی که حافظه دارد را با افزایش قیمت‌های چند برابر سال گذشته روبرو کرده است.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت