اجرای مدلهای بزرگ هوش مصنوعی روی سیستم شخصی معمولاً با محدودیت VRAM مواجه میشود. NVIDIA برای حل این چالش، سوپرکامپیوتر DGX Spark را با ۱۲۸ گیگابایت حافظه یکپارچه، تراشه Grace Blackwell و استک نرمافزاری خود توسعه داده است. این ترکیب امکان توسعه، Fine-Tuning و اجرای مدلهای بزرگ AI را بهصورت محلی روی میز کار فراهم میکند. DGX Spark با گارانتی سدیدگستران در بازار ایران عرضه میشود.
۱۲۸ گیگابایت حافظه؛ مهمترین مزیت DGX Spark
اگر با اجرای مدلهای هوش مصنوعی روی سیستم شخصی یا همان Local AI سروکار داشته باشید، میدانید که همیشه مسئله فقط قدرت GPU نیست و ظرفیت حافظه میتواند به یکی از محدودیتهای اصلی تبدیل شود.
در این زمینه، تیم سبز حوزه سختافزار محصولی را موسوم به Nvidia DGX Spark معرفی کرده که این مشکل را با ۱۲۸ گیگابایت LPDDR5X حافظه یکپارچه هدف گرفته است؛ حافظهای که CPU و GPU بهصورت مشترک از آن استفاده میکنند و پهنای باند آن به ۲۷۳GB/s میرسد.
NVIDIA در معرفی این محصول میگوید که با آن میتوانید مدلهایی تا ۲۰۰ میلیارد پارامتر را برای Inference و Fine-Tuning مدلهایی تا ۷۰ میلیارد پارامتر اجرا کنید.
در نتیجه، برای برخی مدلهای بزرگ که به حافظه بیشتری از VRAM رایج کارتهای گرافیک دسکتاپ نیاز دارند، Spark میتواند بدون نیاز به چند GPU یا کارتهای گرافیک بسیار گرانقیمت، امکان اجرای محلی را فراهم کند. البته این موضوع به مدل، Quantization، Context و نوع Workload بستگی دارد و DGX Spark جایگزین تمام GPUهای ردهبالا برای اجرای LLMهای پیشرفته نیست.
Grace Blackwell در ابعاد یک کامپیوتر کوچک
در قلب DGX Spark، یک تراشه ویژه GB10 Grace Blackwell Superchip قرار دارد؛ ترکیبی از CPU بیستهستهای Arm و GPU مبتنی بر معماری Blackwell با Tensor Coreهای نسل پنجم و RT Coreهای نسل چهارم. NVIDIA برای این پلتفرم تا ۱ پتافلاپس عملکرد تئوری AI در دقت FP4 با استفاده از قابلیت Sparsity اعلام کرده است.
اما ارزش Spark را نباید صرفاً با مقایسه یک عدد FLOPS با کارتهای گرافیک GeForce بسنجیم. این سیستم برای سناریویی ساخته شده که ظرفیت حافظه، اجرای مدلهای بزرگ و آماده بودن محیط AI به اندازه توان پردازشی اهمیت دارند.
فراتر از PC؛ یک محیط آماده توسعه AI
یکی از نکات ویژهای که باید در مورد DGX Spark بدانیم این است که سختافزار این محصول تنها برگ برنده آن نیست. با استفاده از DGX Spark، شرکت NVIDIA مجموعه نرمافزاری AI خود را بهصورت پیشفرض در اختیار کاربر قرار میدهد که ابزارها، فریمورکها، کتابخانهها و مدلهای از پیش آموزشدیده مورد استفاده در اکوسیستم NVIDIA را پوشش میدهد. به همین دلیل Spark میتواند از مرحله توسعه و نمونهسازی تا تست و اعتبارسنجی مدل و Agent را روی یک سیستم واحد پوشش دهد.
برای توسعهدهندهای که دائماً بین مدلهای مختلف، Agentها، Inference و Fine-Tuning جابهجا میشود، این موضوع میتواند بسیار مهمتر از داشتن یک PC معمولی با سختافزار قدرتمند باشد. نکته دیگر این است که حتی میتوان پروژه را در مراحل بعدی برای Fine-Tuning نهایی یا Deployment به DGX Cloud یا دیگر زیرساختهای شتابیافته NVIDIA منتقل کرد.
وقتی یک DGX Spark کافی نیست
NVIDIA امکان اتصال چند دستگاه DGX Spark به یکدیگر را نیز در نظر گرفته است. در واقع اگر کار شما به نحوی است که به بیش از یک DGX Spark نیاز دارید، با استفاده از رابط شبکه پرسرعت ConnectX-7 با پهنای باند ۲۰۰ گیگابیت بر ثانیه، میتوان دو دستگاه DGX Spark را به یکدیگر متصل کرد.
جالب است بدانید که در این حالت، دو دستگاه میتوانند برای کار با مدلهایی تا حدود ۴۰۵ میلیارد پارامتر مورد استفاده قرار گیرند. این قابلیت بیشتر برای تیمهای تحقیقاتی و توسعهدهندگانی معنا دارد که واقعاً با مدلهای بسیار بزرگ کار میکنند و میخواهند بدون ورود مستقیم به سرورهای دیتاسنتری، زیرساخت خود را گسترش دهند.
کوچک، کممصرف و مناسب کار مداوم
یکی از جذابترین بخشهای DGX Spark همین باشد که چنین سختافزاری در ابعاد ۱۵۰ در ۱۵۰ در ۵۰.۵ میلیمتر و وزن حدود ۱.۲ کیلوگرم قرار گرفته است. توان GB10 برابر ۱۴۰ وات و منبع تغذیه دستگاه ۲۴۰ وات است؛ NVIDIA سطح توان صوتی میانگین اعلامی دستگاه را در حالت کاری ۳۵ دسیبل و در حالت Idle برابر ۱۹ دسیبل اعلام کرده است.
در کنار این موارد، ۴ ترابایت NVMe با قابلیت Self-Encryption، اتصال وای فای 7، شبکه 10GbE، چهار USB-C و HDMI 2.1a باعث میشوند Spark از نظر ارتباطات و ذخیرهسازی نیز برای یک سیستم AI مستقل کاملاً آماده باشد.
سوپرکامپیوتر شخصی هوش مصنوعی NVIDIA DGX Spark با گارانتی سدیدگستران در بازار کشور عرضه میشود.
DGX Spark برای چه کسی ساخته شده است؟
مخاطب اصلی DGX Spark توسعهدهنده AI، پژوهشگر، Data Scientist و کاربری است که بهصورت جدی با Local LLM، Agent، Fine-Tuning، Inference یا پردازشهای دادهمحور کار میکند. برای چنین کاربری، ۱۲۸ گیگابایت حافظه Unified و اکوسیستم نرمافزاری NVIDIA میتواند مزیتی ایجاد کند که صرفاً با خرید یک GPU سریعتر به دست نمیآید.
در مقابل، اگر استفاده شما به بازی، کارهای روزمره یا مدلهای سبک محدود است، بخش زیادی از قابلیتهای Spark بلااستفاده خواهد ماند. DGX Spark زمانی معنا پیدا میکند که بخواهید یک محیط توسعه و اجرای AI جدی را روی میز کار خود داشته باشید؛ بدون اینکه از همان ابتدا سراغ یک سرور بزرگ و زیرساخت دیتاسنتری بروید.
سلب مسئولیت: مطالب منتشرشده در دسته رپورتاژ آگهی توسط شرکتهای ثالث تهیه شده و جنبه تبلیغاتی یا بیانیه خبری دارند. این مطالب صرفاً بازنشر شده و شهرسختافزار مسئولیتی در قبال صحت محتوای آن ندارد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت