سوپر کامپیوتر DGX Spark چیست و چرا NVIDIA آن را ساخته است؟

اجرای محلی مدل‌های هوش مصنوعی معمولاً با یک سؤال شروع می‌شود: آیا باید یک کامپیوتر قدرتمند با کارت گرافیک گران‌قیمت اسمبل کنیم، یا راهکار آماده‌ای وجود دارد که از ابتدا برای این کار طراحی شده باشد؟ NVIDIA با معرفی DGX Spark به سراغ گزینه دوم رفته است؛ یک کامپیوتر کوچک مجهز به سخت‌افزار و نرم‌افزار اختصاصی هوش مصنوعی که امکان اجرای مدل‌های بزرگ، توسعه و آزمایش آن‌ها را روی میز کار فراهم می‌کند. اما DGX Spark دقیقاً چه مسئله‌ای را حل می‌کند و چرا انویدیا ساخت چنین سیستمی را ضروری دیده است؟

فهرست مطالب این مقاله:

- مقدمه
- DGX Spark دقیقاً برای چه هدفی ساخته شده است؟
- با DGX Spark چه کارهایی می‌توان انجام داد؟
- تفاوت DGX Spark با یک PC قدرتمند چیست؟
- مشخصات سخت‌افزاری DGX Spark
- نرم‌افزار DGX Spark؛ چرا خبری از Windows نیست؟
- DGX Spark یا Cloud؛ کدام برای کار شما منطقی‌تر است؟
- جمع‌بندی
- سوالات متداول

مقدمه

در نگاه اول، انویدیا DGX Spark چندان شبیه یک سیستم هوش مصنوعی نیست. ابعاد آن به یک کامپیوتر دسکتاپ کوچک نزدیک است و از نظر ظاهری حتی ممکن است آن را با یک Mini PC قدرتمند اشتباه بگیریم. تفاوت اصلی اما داخل این جعبه کوچک است؛ انویدیا از ابتدا آن را برای کار با مدل‌های هوش مصنوعی طراحی کرده، نه اینکه یک کامپیوتر عمومی ساخته باشد و بعد یک GPU قدرتمند داخل آن قرار دهد.

برای فهمیدن دلیل تولید DGX Spark، باید کمی از مشخصات فنی فاصله بگیریم. مسئله‌ای که NVIDIA می‌خواهد حل کند، این است که اجرای مدل‌های جدید هوش مصنوعی روی یک کامپیوتر شخصی، خیلی زود با محدودیت حافظه و زیرساخت مواجه می‌شود. یک GPU قدرتمند می‌تواند محاسبات AI را با سرعت بالایی انجام دهد، اما حافظه اختصاصی آن محدود است و مدل‌های بزرگ‌تر همیشه در این محدوده جا نمی‌شوند. در طرف دیگر، استفاده از چند GPU یا سرورهای تخصصی مشکل ظرفیت و توان پردازشی را حل می‌کند، اما هزینه و پیچیدگی بسیار بیشتری دارد.

به همین دلیل، بین یک PC مجهز به GPU و زیرساخت‌های دیتاسنتری یک فضای خالی شکل گرفته است: سیستمی که برای کارهای جدی AI ساخته شده باشد، اما همچنان بتوان آن را روی میز کار یک توسعه‌دهنده قرار داد. DGX Spark قرار است همین فاصله را پر کند.

این دستگاه بر پایه تراشه اختصاصی 10GB Grace Blackwell Superchip ساخته شده است؛ تراشه‌ای که مشابه رویکردی که اپل در تراشه‌های Apple Silicon و AMD در Ryzen AI Maxهای جدید خود به کار گرفته، CPU و GPU را در یک پلتفرم یکپارچه کنار هم قرار می‌دهد. ۱۲۸ گیگابایت حافظه Unified نیز در اختیار این دو بخش خواهد بود و در کنار همه آنها، انویدیا سیستم‌عامل و مجموعه نرم‌افزاری مخصوص کارهای AI خود را روی آن ارائه می‌کند.

در نتیجه، مشخصات DGX Spark را باید کنار هم دید. مثلاً ۱۲۸ گیگابایت حافظه به‌تنهایی مزیت اصلی دستگاه نیست؛ اهمیت آن زمانی مشخص می‌شود که بدانیم GPU و CPU چگونه به این حافظه دسترسی دارند و این ظرفیت قرار است چه مشکلی را هنگام اجرای مدل‌های بزرگ حل کند. به همین دلیل جزئیات سخت‌افزار را در ادامه مقاله جداگانه بررسی می‌کنیم.

حامی این مقاله: شرکت سدیدگستران تنها عرضه کننده و ارائه دهنده گارانتی سوپرکامپیوتر انویدیا DGX Spark در بازار ایران است.

DGX Spark دقیقاً برای چه هدفی ساخته شده است؟

NVIDIA این محصول را برای توسعه‌دهندگان، پژوهشگران و متخصصان داده‌ای در نظر گرفته که با مدل‌های AI کار می‌کنند و نمی‌خواهند برای هر آزمایش کوچک، کار را مستقیماً به یک سرور یا سرویس ابری منتقل کنند.

فرض کنید یک تیم در حال ساخت یک ابزار هوش مصنوعی است. هنوز مشخص نیست کدام مدل برای پروژه مناسب‌تر است، چه داده‌ای باید به آن داده شود و نرم‌افزار نهایی دقیقاً چه شکلی خواهد داشت. در چنین مرحله‌ای، کاربر مرتب مدل‌ها را آزمایش می‌کند، کد را تغییر می‌دهد، داده‌ها را پردازش می‌کند و نتیجه را دوباره می‌سنجد.

داشتن یک سیستم محلی که برای همین نوع کار طراحی شده باشد، می‌تواند این فرآیند را ساده‌تر کند. پروژه ابتدا روی دستگاه توسعه پیدا می‌کند و زمانی که به منابع بیشتری نیاز داشت، می‌توان آن را به زیرساخت بزرگ‌تر منتقل کرد.

در نهایت باید اشاره کنیم که Spark قرار نیست جایگزین تمام کامپیوترهای شخصی یا سرورهای AI شود؛ این محصول برای یک مرحله مشخص از کار ساخته شده است: توسعه و اجرای محلی پروژه‌های هوش مصنوعی.

با DGX Spark چه کارهایی می‌توان انجام داد؟

پیش از همه چیز این اصل را در نظر داشته باشید که کاربرد DGX Spark را فقط نمی‌توان در «اجرای یک چت‌بات روی کامپیوتر» خلاصه کرد. چنین کاری به‌تنهایی دلیل کافی برای ساخت محصولی با این معماری نیست. اگر با دانش بیشتر و هوشمندانه‌تر به این سوپرکامپیوتر ویژه نگاه کنیم باید آن را در قالب یکی از مراحل یک پروژه AI در نظر بگیریم.

یک مدل ممکن است ابتدا برای آزمایش اجرا شود، بعد نرم‌افزار اطراف آن توسعه پیدا کند، سپس با داده‌های اختصاصی تنظیم شود و در نهایت نسخه آماده‌شده به زیرساخت دیگری منتقل شود. Spark برای قرار گرفتن در همین فرآیند طراحی شده است.

NVIDIA سه کاربرد اصلی را برای اسپارک، این‌طور مطرح می‌کند:

• Prototyping و توسعه: آزمایش مدل‌ها و ساخت برنامه‌های مبتنی بر AI
• Inference: اجرای مدل و استفاده از آن در یک برنامه یا سرویس
• Fine-tuning: تطبیق مدل‌های از پیش آموزش‌دیده با داده و نیاز مشخص

در کنار این موارد، ساخت AI Agentها و توسعه برخی پروژه‌های بینایی ماشین و Physical AI نیز از سناریوهای مورد نظر NVIDIA هستند.

اجرای مدل‌های بزرگ به صورت محلی

یکی از کاربردهای مستقیم Spark، اجرای مدل روی خود دستگاه است. در این حالت، پردازش مدل روی سیستم محلی انجام می‌شود و کاربر برای هر درخواست یا هر مرحله آزمایش مجبور نیست مدل را روی یک سرویس ابری اجرا کند.

این قابلیت برای توسعه و آزمایش مدل‌های زبانی، ابزارهای Coding، مدل‌های مولد و برنامه‌های AI کاربرد دارد. البته «محلی» را نباید با «کاملاً بدون شبکه» یکی دانست؛ Spark می‌تواند در کنار دسترسی محلی، از طریق شبکه نیز مورد استفاده قرار گیرد و بخشی از یک محیط توسعه ترکیبی باشد.

NVIDIA برای DGX Spark امکان اجرای مدل‌هایی تا ۲۰۰ میلیارد پارامتر را اعلام کرده است. این عدد در واقع یکی از مهم‌ترین تفاوت‌های این محصول با کامپیوترهای شخصی متداول را نشان می‌دهد، اما نباید آن را به شکل یک تضمین عملکردی تفسیر کرد. اینکه یک مدل 200B واقعاً چگونه اجرا شود، به معماری مدل، Quantization، طول Context و روش اجرای آن بستگی دارد.

بنابراین در اینجا عدد 200B بیشتر یک مقیاس هدف‌گذاری‌شده برای پلتفرم است تا اینکه بتوان گفت هر مدل ۲۰۰ میلیارد پارامتری با شرایط یکسان روی Spark اجرا خواهد شد.

Fine-Tunning؛ وقتی مدل آماده نیست

بخشی از کار توسعه‌دهنده زمانی شروع می‌شود که مدل آماده برای پروژه کافی نباشد. ممکن است مدل عمومی برای یک حوزه تخصصی، نوع خاصی از پاسخ‌گویی یا مجموعه داده مشخص نیاز به تطبیق داشته باشد. در این شرایط می‌توان به سراغ Fine-tuning رفت.

در Fine-tuning، مدل از ابتدا آموزش داده نمی‌شود؛ یک مدل از پیش آموزش‌دیده با داده‌های جدید و هدف مشخص، برای کاربرد مورد نظر تنظیم می‌شود. NVIDIA اعلام کرده است که DGX Spark برای Fine-tuning مدل‌هایی تا ۷۰ میلیارد پارامتر در نظر گرفته شده است.

ساخت Agent، نه فقط اجرای یک مدل

کاربرد دیگری که با روند فعلی توسعه نرم‌افزارهای AI اهمیت بیشتری پیدا کرده، ساخت AI Agent است. Agent را نباید صرفاً یک مدل زبانی سریع‌تر یا بزرگ‌تر دانست. در یک سیستم Agentic، مدل می‌تواند به ابزارها و منابع اطلاعاتی مختلف دسترسی داشته باشد و بر اساس هدف تعیین‌شده، چند مرحله را اجرا کند.

برای مثال، یک دستیار برنامه‌نویسی ممکن است کد را بررسی کند، فایل‌های پروژه را بخواند، نتیجه را تحلیل کند و بر اساس آن پیشنهاد یا تغییر جدیدی ایجاد کند. در چنین پروژه‌ای، مدل تنها یکی از اجزای سیستم است و بخش قابل توجهی از کار مربوط به توسعه و آزمایش نرم‌افزار اطراف آن می‌شود.

DGX Spark می‌تواند محیط محلی این توسعه باشد و NVIDIA نیز در معرفی فعلی محصول، آن را به‌عنوان یک Desktop Agent Computer معرفی می‌کند.

بینایی ماشین و Physical AI

کاربرد Spark به مدل‌های زبانی محدود نیست. توسعه مدل‌های بینایی ماشین، پردازش تصویر و ویدئو و برخی پروژه‌های رباتیک نیز می‌تواند از چنین سیستمی بهره ببرد. NVIDIA در اکوسیستم خود ابزارهایی مانند Isaac، Metropolis و Holoscan را برای این دسته از کاربردها ارائه می‌کند.

البته اینجا هم باید بین «سیستم توسعه» و «سخت‌افزار نهایی» تفاوت گذاشت. برای مثال، یک تیم رباتیک می‌تواند مدل و نرم‌افزار مورد نیاز خود را روی DGX Spark توسعه و آزمایش کند، اما این به معنی قرار گرفتن خود Spark داخل ربات نهایی نیست.

در عمل، ارزش DGX Spark زمانی روشن‌تر می‌شود که آن را به‌عنوان یک سیستم توسعه AI روی میز کار ببینیم؛ سیستمی که به کاربر اجازه می‌دهد مدل‌های نسبتاً بزرگ را اجرا کند، برنامه‌های مبتنی بر آن‌ها را بسازد و در صورت نیاز سراغ Fine-tuning برود، بدون اینکه از همان ابتدای کار به یک زیرساخت دیتاسنتری وابسته باشد.

اما هنوز یک سؤال اساسی باقی می‌ماند: چرا برای انجام این کارها به یک کامپیوتر با معماری متفاوت نیاز داریم؟ یک PC مجهز به RTX 5090 و حافظه رم زیاد هم می‌تواند مدل‌های AI را اجرا کند. تفاوت DGX Spark دقیقاً کجاست؟

پاسخ این سؤال به حافظه Unified، نحوه اتصال CPU و GPU و مجموعه نرم‌افزاری دستگاه برمی‌گردد؛ سه موضوعی که در بخش بعدی می‌توان آن‌ها را کنار هم بررسی کرد، بدون اینکه دوباره کاربردهای Spark را تکرار کنیم.

تفاوت DGX Spark با یک PC قدرتمند چیست؟

شاید شما هم تا به اینجای مقاله از خودتان پرسیده باشید که اگر هدف اجرای مدل‌های هوش مصنوعی است، چرا به‌جای DGX Spark یک PC قدرتمند با کارت گرافیک رده‌بالا نباشد؟

پاسخ این سؤال را نمی‌توان فقط با مقایسه قدرت GPU و پردازش موازی دو دستگاه داد. یک PC مجهز به کارت گرافیک قدرتمند همچنان می‌تواند برای Local AI بسیار کاربردی باشد و حتی در بعضی Workloadها عملکرد بالاتری ارائه کند. تفاوت DGX Spark بیشتر به نحوه طراحی کل سیستم برای کار با مدل‌های بزرگ برمی‌گردد.

در یک PC معمولی، GPU حافظه اختصاصی خودش را دارد و CPU از حافظه سیستم استفاده می‌کند. مثلاً اگر کارت گرافیک 24 یا 32 گیگابایت VRAM داشته باشد، مدل AI هنگام اجرای GPUمحور باید تا حد زیادی در همین محدوده جا بگیرد. اضافه‌کردن RAM بیشتر به سیستم، ظرفیت VRAM را به همان نسبت افزایش نمی‌دهد.

البته روش‌هایی برای استفاده از RAM سیستم در کنار VRAM وجود دارد، اما این کار الزاماً همان تجربه‌ای را ایجاد نمی‌کند که یک معماری Unified Memory از ابتدا برای آن طراحی شده باشد.

در DGX Spark، داستان متفاوت است. CPU و GPU در GB10 به یک فضای حافظه Unified دسترسی دارند و NVIDIA برای این سیستم ۱۲۸ گیگابایت حافظه LPDDR5X در نظر گرفته است. این حافظه نه «۱۲۸ گیگابایت VRAM» است و نه باید آن را با حافظه اختصاصی کارت‌های گرافیک معمولی یکی دانست؛ یک حافظه سیستم یکپارچه است که CPU و GPU هر دو می‌توانند به آن دسترسی داشته باشند.

همین تفاوت، دلیل مهمی برای طراحی DGX Spark است. اگر یک مدل بزرگ‌تر از ظرفیت VRAM یک کارت گرافیک باشد، در یک PC معمولی باید سراغ راهکارهای دیگری برای مدیریت حافظه رفت. در Spark، از ابتدا بخش بسیار بزرگ‌تری از حافظه در اختیار کل سیستم قرار گرفته است.

آیا DGX Spark همیشه از یک PC قوی‌تر است؟

مقایسه DGX Spark با یک PC قدرتمند، زمانی معنا پیدا می‌کند که بدانیم قرار است این دو سیستم چه کاری انجام دهند. یک کامپیوتر مجهز به GPU رده‌بالا همچنان برای استفاده عمومی، گیمینگ، رندر سه‌بعدی، تدوین ویدئو و طیف گسترده‌ای از نرم‌افزارهای دسکتاپ انعطاف بیشتری دارد. حتی در بعضی Workloadهای AI نیز ممکن است یک GPU مجزا به دلیل قدرت محاسباتی یا پهنای باند حافظه بالاتر، عملکرد بهتری ارائه کند.

اما مزیت اصلی DGX Spark جای دیگری است. این دستگاه از ابتدا برای بارهای کاری AI طراحی شده و 128 گیگابایت حافظه Unified، پردازنده و GPU یکپارچه در قالب GB10 و یک Stack نرم‌افزاری آماده برای AI را در یک سیستم بسیار کوچک کنار هم قرار می‌دهد. در این معماری، CPU و GPU به یک فضای حافظه مشترک دسترسی دارند و نیازی به تقسیم مدل میان RAM سیستم و VRAM مجزای کارت گرافیک نیست.

همین تفاوت برای مدل‌های بزرگ اهمیت پیدا می‌کند. در یک PC معمولی، ظرفیت VRAM کارت گرافیک می‌تواند خیلی زود به محدودیت تبدیل شود؛ حتی اگر سیستم مقدار زیادی RAM داشته باشد، نمی‌توان آن را به‌سادگی معادل حافظه GPU در نظر گرفت. در DGX Spark، حافظه Unified امکان می‌دهد بخش بسیار بزرگ‌تری از مدل در فضای مشترک CPU و GPU قرار بگیرد. البته این به معنی سریع‌تر بودن Spark در همه پردازش‌ها نیست؛ ظرفیت بیشتر حافظه با قدرت پردازشی بیشتر یکسان نیست.

تفاوت دیگر به محیط نرم‌افزاری برمی‌گردد. یک PC قدرتمند را می‌توان با Windows یا Linux و مجموعه‌ای از قطعات و نرم‌افزارهای مختلف ساخت و برای AI نیز آماده کرد. اما در DGX Spark، سیستم‌عامل DGX OS و اجزایی مانند CUDA، cuDNN، Docker و NVIDIA Container Runtime از ابتدا در یک پلتفرم متمرکز شده‌اند. هدف این است که دستگاه بیشتر شبیه یک محیط آماده برای توسعه و اجرای AI باشد و کاربر زمان کمتری را صرف آماده‌سازی زیرساخت کند.

در عوض، همین یکپارچگی محدودیت‌هایی هم ایجاد می‌کند. در یک PC استاندارد، کاربر می‌تواند GPU، RAM، فضای ذخیره‌سازی و بسیاری از قطعات دیگر را متناسب با نیاز خود انتخاب یا در آینده ارتقا دهد. DGX Spark یک پلتفرم یکپارچه است و آزادی عمل بسیار کمتری برای تغییر سخت‌افزار دارد. حتی ابعاد کوچک آن نیز حاصل همین تصمیم است؛ این دستگاه تنها ۱۵ × ۱۵ × ۵.۰۵ سانتی‌متر اندازه دارد و با وزن حدود ۱.۲ کیلوگرم، بیشتر شبیه یک سیستم محاسباتی تخصصی کوچک است تا یک کیس دسکتاپ قابل ارتقا.

بنابراین، سؤال درست این نیست که «DGX Spark قوی‌تر است یا یک PC؟»؛ بلکه باید پرسید برای چه نوع کاری، کدام معماری مناسب‌تر است؟ PC قدرتمند آزادی عمل و کاربرد عمومی بیشتری دارد، در حالی که Spark بخش بزرگی از این انعطاف را کنار گذاشته تا یک پلتفرم کوچک و متمرکز برای توسعه و اجرای AI ارائه کند.

حالا که تفاوت این دو رویکرد روشن شد، می‌توانیم سراغ خود Spark برویم و ببینیم NVIDIA برای قرار دادن چنین قابلیت‌هایی در این ابعاد، دقیقاً چه سخت‌افزاری را درون آن قرار داده است.

مشخصات سخت‌افزاری DGX Spark

DGX Spark از نظر ابعاد تنها ۱۵۰ در ۱۵۰ در ۵۰.۵ میلی‌متر اندازه دارد و وزن آن حدود ۱.۲ کیلوگرم است. با وجود این اندازه، سخت‌افزار آن بیشتر به یک پلتفرم AI فشرده شباهت دارد تا یک Mini PC معمولی.

مرکز این طراحی، GB10 Grace Blackwell Superchip است. NVIDIA در این تراشه یک CPU بیست‌هسته‌ای Arm شامل ۱۰ هسته Cortex-X925 و ۱۰ هسته Cortex-A725 را در کنار GPU مبتنی بر معماری Blackwell قرار داده است. GPU نیز از Tensor Coreهای نسل پنجم و RT Coreهای نسل چهارم استفاده می‌کند.

اما در DGX Spark، عدد هسته‌ها به اندازه رابطه این اجزا با حافظه اهمیت ندارد. CPU و GPU در یک سیستم یکپارچه قرار گرفته‌اند و هر دو به ۱۲۸ گیگابایت حافظه LPDDR5X Unified دسترسی دارند. این حافظه از رابط ۲۵۶ بیتی استفاده می‌کند و پهنای باند اعلام‌شده آن ۲۷۳ گیگابایت بر ثانیه است.

مشخصات اصلی DGX Spark در یک نگاه

بخش	مشخصات
تراشه اصلی	NVIDIA GB10 Grace Blackwell Superchip
CPU	۲۰ هسته Arm؛ ۱۰× Cortex-X925 + ۱۰× Cortex-A725
معماری GPU	NVIDIA Blackwell
Tensor Core	نسل پنجم
RT Core	نسل چهارم
حافظه	۱۲۸GB LPDDR5X Unified
رابط حافظه	۲۵۶ بیت
پهنای باند حافظه	۲۷۳GB/s
توان محاسباتی اعلام‌شده	تا ۱ PFLOP در FP4 با استفاده از Sparsity
ذخیره‌سازی	SSD NVMe M.2 با ظرفیت ۴ ترابایت در مدل فعلی
شبکه	10GbE، ConnectX-7 با اتصال 200Gbps، Wi-Fi 7
خروجی تصویر	HDMI 2.1a و حداکثر سه DisplayPort از USB-C
سیستم‌عامل	NVIDIA DGX OS
منبع تغذیه	۲۴۰ وات
ابعاد	۱۵۰ × ۱۵۰ × ۵۰.۵ میلی‌متر
وزن	۱.۲ کیلوگرم

مشخصات رسمی NVIDIA؛ برخی مدل‌های مبتنی بر GB10 که توسط شرکای این شرکت عرضه می‌شوند ممکن است در ظرفیت ذخیره‌سازی یا برخی جزئیات با Founders Edition تفاوت داشته باشند.

1PFLOP را چطور باید تفسیر کرد؟

یکی از اعدادی که در معرفی DGX Spark بیشتر به چشم می‌آید، ۱ پتاFLOP توان AI در FP4 است. اما این عدد به‌تنهایی معیار مناسبی برای مقایسه مستقیم Spark با کارت‌های گرافیک دیگر نیست.

NVIDIA این مقدار را به‌صورت تئوری و با استفاده از قابلیت Sparsity اعلام می‌کند. بنابراین نمی‌توان صرفاً با دیدن عبارت «۱ PFLOP» نتیجه گرفت که Spark در هر مدل هوش مصنوعی یا هر نوع محاسبه‌ای معادل یک GPU مشخص عمل می‌کند. نوع دقت محاسباتی، معماری مدل و Workload واقعی روی عملکرد نهایی اثر دارند.

به همین دلیل، در این مقاله بهتر است ۱ PFLOP را به‌عنوان یکی از مشخصات معماری GB10 معرفی کنیم، نه به‌عنوان یک امتیاز برای رتبه‌بندی Spark در برابر کارت‌های گرافیک دسکتاپ.

چرا ۱۲۸ گیگابایت حافظه؟

احتمالاً حافظه یکپاره مهم‌ترین مشخصه DGX Spark برای مخاطبی است که آن را از زاویه Local AI بررسی می‌کند. NVIDIA توانایی اجرای مدل‌های بزرگ را در این سیستم تا حد زیادی به همین حافظه Unified گره زده است.

در یک کارت گرافیک معمولی، VRAM یک منبع محدود و اختصاصی است. در Spark، ۱۲۸ گیگابایت حافظه LPDDR5X در سطح سیستم به شکل Unified در اختیار CPU و GPU قرار دارد. همین موضوع اجازه می‌دهد مدل‌هایی که از نظر اندازه از محدوده معمول VRAM کارت‌های دسکتاپ فراتر می‌روند، در محیطی متفاوت مدیریت شوند.

البته اینجا نباید یک اشتباه رایج را مرتکب شد: ۱۲۸ گیگابایت حافظه به معنی ۱۲۸ گیگابایت فضای قابل استفاده برای خود مدل نیست. سیستم‌عامل، Runtime، برنامه‌ها و سایر اجزای سیستم نیز از همین فضای حافظه استفاده می‌کنند و مقدار حافظه مورد نیاز مدل به روش اجرای آن بستگی دارد.

از طرف دیگر، ظرفیت حافظه به‌تنهایی عملکرد را تضمین نمی‌کند. وقتی یک مدل در حافظه جا می‌شود، هنوز مسئله سرعت محاسبه و جابه‌جایی داده وجود دارد. به همین دلیل است که NVIDIA در کنار ظرفیت ۱۲۸ گیگابایتی، روی معماری GB10 و شتاب‌دهنده‌های Blackwell نیز تأکید می‌کند.

این همان جایی است که مشخصات روی کاغذ به یک مسئله واقعی تبدیل می‌شوند: DGX Spark تلاش می‌کند مشکل «مدل بزرگ‌تر از حافظه GPU» را با افزایش صرف VRAM حل نکند، بلکه کل معماری حافظه و پردازش را برای این نوع Workload تغییر دهد.

نرم‌افزار DGX Spark؛ چرا خبری از Windows نیست؟

اگر انتظار دارید DGX Spark را روشن کنید و با دسکتاپ آشنای Windows روبه‌رو شوید، این‌طور نیست. سیستم‌عامل پیش‌فرض این دستگاه NVIDIA DGX OS است؛ یک محیط مبتنی بر Ubuntu Linux که NVIDIA آن را برای اجرای بارهای کاری AI و یادگیری ماشین آماده کرده است. به همین دلیل، Spark از ابتدا بیشتر شبیه یک ایستگاه کاری تخصصی برای توسعه و اجرای AI است تا یک PC عمومی که بعداً قرار باشد برای کارهای هوش مصنوعی آماده شود.

انتخاب Linux صرفاً برای متفاوت بودن سیستم‌عامل نیست. بسیاری از ابزارها و چارچوب‌های توسعه AI در این محیط کاربرد گسترده‌ای دارند و NVIDIA می‌تواند در DGX OS بخش مهمی از درایورها، کتابخانه‌ها و اجزای نرم‌افزاری مورد نیاز سخت‌افزار را از قبل هماهنگ کند. در یک PC معمولی، کاربر ممکن است مجبور باشد بخش‌هایی مانند درایور GPU، CUDA، کتابخانه‌های مورد نیاز و محیط اجرای پروژه را جداگانه نصب و با یکدیگر هماهنگ کند؛ اما در Spark، بخش مهمی از این زیرساخت از ابتدا برای همین کاربرد آماده شده است.

این موضوع در پشته نرم‌افزاری دستگاه هم دیده می‌شود. CUDA و cuDNN برای اجرای نرم‌افزارهای شتاب‌یافته با GPU در اختیار توسعه‌دهنده هستند و Docker و NVIDIA Container Runtime امکان اجرای پروژه‌ها در محیط‌های جداگانه را فراهم می‌کنند. برای مثال، می‌توان یک پروژه را با نسخه مشخصی از کتابخانه‌ها و وابستگی‌های خودش داخل یک Container اجرا کرد، بدون اینکه تنظیمات آن مستقیماً محیط پروژه دیگری را تحت تأثیر قرار دهد. چنین رویکردی در پروژه‌های AI که وابستگی‌های نرم‌افزاری متعددی دارند، اهمیت زیادی دارد.

در کنار این موارد، NVIDIA NGC نیز به این اکوسیستم اضافه می‌شود. NGC دسترسی به Containerها، مدل‌ها و نرم‌افزارهای آماده و بهینه‌شده برای پلتفرم NVIDIA را فراهم می‌کند. بنابراین در بسیاری از سناریوها لازم نیست توسعه‌دهنده تمام محیط اجرای یک پروژه را از صفر بسازد و تک‌تک اجزای آن را با یکدیگر سازگار کند؛ می‌تواند از منابع آماده استفاده کند و سریع‌تر به مرحله آزمایش مدل یا توسعه برنامه برسد.

البته DGX Spark یک محیط بسته با چند ابزار از پیش تعیین‌شده نیست. پایه Linux و Ubuntu به کاربر حرفه‌ای اجازه می‌دهد ابزارها و Frameworkهای مورد نیاز پروژه خود را نصب و محیط توسعه را مطابق نیازش تنظیم کند. بنابراین تفاوت اصلی با یک PC معمولی در محدود شدن انتخاب‌ها نیست؛ در آماده بودن زیرساخت AI است.

این مزیت برای استفاده تیمی نیز اهمیت پیدا می‌کند. وقتی چند توسعه‌دهنده روی یک پروژه کار می‌کنند، فقط قدرت سخت‌افزار مهم نیست؛ یکسان بودن محیط اجرا، مدیریت وابستگی‌ها و امکان بازتولید شرایط اجرای پروژه نیز اهمیت دارد. استفاده از Containerها و پشته نرم‌افزاری NVIDIA می‌تواند بخشی از این پیچیدگی را مدیریت کند.

برای مدیریت خود دستگاه نیز ابزارهای اختصاصی NVIDIA در نظر گرفته شده‌اند و Spark را می‌توان مستقیماً با مانیتور و تجهیزات جانبی استفاده کرد یا از طریق شبکه به آن متصل شد. در نتیجه، این سیستم لزوماً مجبور نیست روی میز هر توسعه‌دهنده قرار بگیرد و می‌تواند مانند یک منبع محاسباتی AI در شبکه مورد استفاده قرار گیرد.

پس نبود Windows در DGX Spark را نباید صرفاً یک محدودیت در نظر گرفت. NVIDIA این دستگاه را از پایه برای یک کار مشخص ساخته است و سیستم‌عامل و نرم‌افزار آن نیز در همین راستا انتخاب شده‌اند. اگر کاربر به نرم‌افزارهای معمول Windows وابسته باشد، این تغییر محیط می‌تواند نیازمند سازگاری و یادگیری باشد؛ اما برای توسعه‌دهنده AI، آماده بودن بخش مهمی از زنجیره CUDA، کتابخانه‌های NVIDIA، Containerها و ابزارهای توسعه باعث می‌شود Spark بیشتر شبیه یک محیط کاری آماده برای AI باشد تا یک کامپیوتر خام که باید از ابتدا برای این کار آماده شود.

DGX Spark یا Cloud؛ کدام برای کار شما منطقی‌تر است؟

DGX Spark با هدف جایگزین کردن سرورهای دیتاسنتری یا سرویس‌های ابری ساخته نشده است. نقطه قوت آن جایی مشخص می‌شود که توسعه‌دهنده یا تیم AI بخواهد بخش قابل توجهی از کار را روی یک سیستم اختصاصی در اختیار داشته باشد؛ از اجرای مدل و آزمایش ایده‌ها گرفته تا توسعه نرم‌افزار و Fine-tuning مدل‌های قابل پشتیبانی.

فرض کنید در حال ساخت یک Agent مبتنی بر یک مدل زبانی بزرگ هستید. در مرحله توسعه، مرتب باید مدل را اجرا کنید، Promptها را تغییر دهید، کد را اصلاح کنید و نتیجه را ببینید. اگر برای هر آزمایش مجبور باشید یک نمونه Cloud را راه‌اندازی کنید یا داده‌ها و مدل را بین سیستم محلی و سرور جابه‌جا کنید، این فرایند می‌تواند پرهزینه و دست‌وپاگیر شود. DGX Spark در چنین سناریویی یک محیط محلی و همیشه در دسترس در اختیار شما می‌گذارد.

Cloud مزیت متفاوتی دارد. وقتی پروژه از محدوده یک سیستم دسکتاپ خارج می‌شود، مثلاً به GPUهای متعدد، حافظه بسیار بیشتر، اجرای هم‌زمان درخواست‌های زیاد یا منابعی نیاز دارید که فقط برای چند ساعت یا چند روز لازم‌اند، تهیه سخت‌افزار اختصاصی لزوماً منطقی نیست. در این شرایط می‌توان منابع مورد نیاز را از یک ارائه‌دهنده ابری گرفت و متناسب با نیاز پروژه مقیاس را تغییر داد.

به همین دلیل، انتخاب بین DGX Spark و Cloud را نباید صرفاً با مقایسه قدرت سخت‌افزاری انجام داد. نوع استفاده و الگوی مصرف منابع اهمیت بیشتری دارد. Spark برای کار مداوم و محلی روی AI جذاب‌تر است؛ Cloud برای زمانی که مقیاس یا انعطاف‌پذیری منابع اهمیت بیشتری پیدا می‌کند.

البته این دو می‌توانند در یک پروژه کنار هم قرار بگیرند. یک تیم ممکن است مدل و نرم‌افزار خود را روی DGX Spark توسعه دهد و آزمایش‌های اولیه را انجام دهد، اما زمانی که مدل آماده استفاده در مقیاس بزرگ شد، آن را به زیرساخت ابری یا سرورهای مجهز به GPUهای بیشتر منتقل کند. این مدل استفاده، با رویکرد NVIDIA برای انتقال گردش‌کار از دسکتاپ به زیرساخت‌های بزرگ‌تر نیز هم‌خوانی دارد.

از نظر اتصال هم نباید تصور کرد که استفاده از Spark الزاماً به معنی قطع ارتباط با اینترنت و سرویس‌های دیگر است. این سیستم می‌تواند به‌صورت محلی کار کند، از طریق شبکه مورد استفاده قرار بگیرد یا بخشی از یک گردش‌کار ترکیبی باشد. بنابراین تفاوت اصلی در اینجا محل اجرای بار کاری و میزان کنترلی است که روی منابع محاسباتی خود دارید، نه صرفاً آنلاین یا آفلاین بودن.

جمع‌بندی؛ DGX Spark دقیقاً برای چه کاری ساخته شده است؟

DGX Spark را بهتر است یک پلتفرم تخصصی AI در ابعاد دسکتاپ بدانیم، نه یک PC معمولی که صرفاً سخت‌افزار قدرتمندی در اختیار دارد. NVIDIA این سیستم را برای توسعه، آزمایش، اجرای مدل‌های بزرگ و Fine-tuning در محیط محلی طراحی کرده است؛ جایی که 128 گیگابایت حافظه Unified و معماری Grace Blackwell می‌توانند محدودیت حافظه بسیاری از سیستم‌های شخصی را تا حد قابل توجهی کاهش دهند.

البته این ظرفیت به معنی اجرای بدون محدودیت مدل‌های بسیار بزرگ نیست. اندازه مدل، نوع Quantization، طول Context، KV Cache و حافظه مورد نیاز Runtime همگی روی امکان اجرای واقعی مدل اثر می‌گذارند. حتی عدد 200 میلیارد پارامتر که NVIDIA برای مدل‌های قابل اجرای روی یک Spark اعلام کرده، باید در همین چارچوب تفسیر شود و نباید آن را معادل تضمین اجرای هر مدل 200B با هر تنظیماتی دانست.

مزیت اصلی Spark زمانی مشخص می‌شود که کاربر واقعاً با AI کار می‌کند؛ مثلاً یک توسعه‌دهنده در حال ساخت Agent و نرم‌افزار مبتنی بر مدل‌های بزرگ است، یک پژوهشگر مدل‌های سنگین‌تر را آزمایش می‌کند یا یک تیم می‌خواهد پیش از انتقال پروژه به زیرساخت بزرگ‌تر، بخش قابل توجهی از توسعه و آزمون را به‌صورت محلی انجام دهد.

در مقابل، برای استفاده عمومی، گیمینگ یا اجرای گهگاهی مدل‌های کوچک، بسیاری از قابلیت‌های DGX Spark ضرورتی ندارند. همچنین وقتی پروژه به چندین GPU، حافظه بسیار بیشتر یا مقیاس‌پذیری بالا نیاز پیدا می‌کند، Cloud و سرورهای دیتاسنتری همچنان نقش خود را حفظ می‌کنند.

بنابراین، ارزش DGX Spark را نباید با یک عدد مشخص در جدول مشخصات سنجید. سؤال اصلی این است که آیا نوع کار شما به یک زیرساخت اختصاصی برای توسعه و اجرای AI در مقیاس دسکتاپ نیاز دارد یا خیر. اگر پاسخ مثبت باشد، Spark دقیقاً برای همین فاصله میان PCهای معمولی و زیرساخت‌های بزرگ AI طراحی شده است.

پرسش‌های متداول

DGX Spark چیست؟

یک سیستم دسکتاپ تخصصی NVIDIA برای توسعه، اجرای مدل‌های AI، Inference و Fine-tuning است که از معماری Grace Blackwell و 128 گیگابایت حافظه Unified استفاده می‌کند.

آیا 128 گیگابایت حافظه DGX Spark همان VRAM است؟

خیر. این 128GB حافظه Unified است که CPU و GPU به‌صورت مشترک از آن استفاده می‌کنند و نباید آن را با 128GB VRAM اختصاصی یک کارت گرافیک یکی دانست.

آیا DGX Spark می‌تواند مدل 200B را اجرا کند؟

NVIDIA پشتیبانی از مدل‌های تا 200 میلیارد پارامتر را اعلام کرده است، اما امکان اجرای عملی هر مدل به Quantization، Context، KV Cache و سایر نیازهای حافظه بستگی دارد.

آیا با DGX Spark می‌توان مدل AI را Fine-tune کرد؟

بله. NVIDIA برای DGX Spark روش‌هایی مانند SFT، LoRA و QLoRA را ارائه کرده و Fine-tuning مدل‌های بزرگ را نیز پشتیبانی می‌کند.

آیا DGX Spark برای اجرای مدل‌های AI به اینترنت نیاز دارد؟

برای اجرای محلی مدل‌ها اتصال دائمی به اینترنت ضروری نیست؛ اما دانلود مدل‌ها، به‌روزرسانی‌ها و برخی سرویس‌های آنلاین به اینترنت نیاز دارند.

آیا DGX Spark یک کامپیوتر معمولی است؟

از نظر امکان استفاده به‌عنوان سیستم دسکتاپ بله، اما سخت‌افزار و نرم‌‌افزار آن با تمرکز بر توسعه و اجرای AI طراحی شده‌اند و هدف اصلی آن استفاده عمومی یا گیمینگ نیست.

آیا DGX Spark جایگزین Cloud می‌شود؟

خیر. Spark برای توسعه و اجرای محلی AI مناسب است، اما Cloud و زیرساخت‌های دیتاسنتری برای بارهای کاری بسیار بزرگ، چندGPUای و مقیاس‌پذیر همچنان کاربرد دارند.

DGX Spark برای چه کسی مناسب است؟

برای توسعه‌دهندگان AI، پژوهشگران، تیم‌های ML، استارتاپ‌ها و تیم‌های بینایی ماشین و رباتیک که به اجرای محلی مدل‌های بزرگ و توسعه مداوم AI نیاز دارند.

آیا DGX Spark برای گیمینگ مناسب است؟

هدف اصلی آن گیمینگ نیست. برای بازی و استفاده عمومی، مزیت‌های اصلی معماری و حافظه Spark لزوماً کاربردی نخواهند بود.

آیا می‌توان چند DGX Spark را به هم متصل کرد؟

بله. NVIDIA امکان اتصال چند Spark را برای اجرای مدل‌ها و بارهای کاری بزرگ‌تر فراهم کرده است؛ در این حالت منابع محاسباتی میان چند دستگاه توزیع می‌شوند.