مدلهای AI هر روز بزرگتر میشوند و اجرای نسخههای پیشرفته آنها به سختافزاری نیاز دارد که از توان کامپیوترهای حرفهای معمولی فراتر میرود. در چنین شرایطی AMD سراغ ساخت ورکاستیشنی موسوم به Threadripper Halo Station رفته که بخش قابل توجهی از سختافزار مورد نیاز برای اجرای مدلهای عظیم را در یک سیستم واحد جمع میکند؛ سیستمی که ظرفیت حافظه آن به ۵۷۶ گیگابایت میرسد.
صنعت هوش مصنوعی با یک چالش بزرگ مواجه شده است. مدلهای زبانی با چنان سرعتی در حال رشد هستند که دیگر ظرفیت حافظه کارتهای گرافیک معمولی حتی پاسخگوی نیازهای اولیه آنها نیست. اجرای محلی مدلهایی با ابعاد تریلیون پارامتر تا پیش از این قلمرو اختصاصی دیتاسنترهای چندمیلیون دلاری بود، اما AMD در نمایشگاه IFA 2026 تصمیم گرفت این قاعده را برهم بزند.
این شرکت با رونمایی از طرح مرجع Threadripper Halo Station، قدرتمندترین ورکاستیشن هوش مصنوعی دنیا را معرفی کرده ااست؛ غولی که ادعا میکند قدرت دیتاسنترها را روی میز کار مهندسان قرار میدهد.
معماری سختافزار؛ ۹۶ هسته تازه قدم اول است
برای درک ابعاد این سیستم باید به قلب تپنده آن نگاه کرد، جایی که پردازنده ۹۶ هستهای Ryzen Threadripper Pro 9995WX بر پایه معماری جدید Zen 5 قرار گرفته است. این تراشه با ۱۹۲ رشته پردازشی و فرکانس بوست ۵.۴ گیگاهرتز، ۳۸۴ مگابایت حافظه کش L3 دارد و توان طراحی حرارتی آن به ۳۵۰ وات میرسد.
AMD روی مادربرد این سیستم از ۸ کانال حافظه استفاده کرده تا بتواند ۲ ترابایت رم DDR5-6400 را در کنار پردازنده قرار دهد. اما راز اصلی Halo Station در این پردازنده نیست، زیرا در بارهای کاری هوش مصنوعی، وظیفه CPU صرفاً مدیریت ترافیک سنگین دادهها، هدایت ورودی و خروجیها و جلوگیری از ایجاد گلوگاه برای شتابدهندههای اصلی است.
مشخصات فنی این سیستم به شرح زیر است:
| مشخصات | جزئیات |
|---|---|
| پردازنده اصلی (CPU) | Threadripper Pro 9995WX، دارای ۹۶ هسته و فرکانس بوست ۵.۴ گیگاهرتز |
| پردازنده گرافیکی (GPU) | ۲× Instinct MI350P |
| حافظه سیستم | ۲ ترابایت DDR5 |
| خنککننده | خنککننده مایع برای پردازنده و پردازندههای گرافیکی |
| حافظه گرافیکی | ۱۴۴ گیگابایت HBM3E برای هر شتابدهنده؛ حداکثر ۵۷۶ گیگابایت HBM3E |
| توان طراحی حرارتی پردازنده (TDP) | ۳۵۰ وات |
| توان برد گرافیکی (TBP) | ۶۰۰ وات برای هر شتابدهنده |
سلاح اصلی AMD؛ دو شتابدهنده با حافظه HBM3E
قدرت واقعی این سیستم از دو شتابدهنده پرقدرت AMD Instinct MI350P نشأت میگیرد. هر کدام از این کارتها بر پایه معماری دیتاسنتری CDNA 4 ساخته شدهاند و به ۱۲۸ واحد محاسباتی و ۱۴۴ گیگابایت حافظه فوقسریع HBM3E مجهز هستند.
این یعنی سیستم در حالت پایه ۲۸۸ گیگابایت حافظه گرافیکی با پهنای باند خیرهکننده ۴ ترابایت بر ثانیه به ازای هر کارت ارائه میدهد. شاسی دستگاه طوری طراحی شده که خریدار میتواند دو کارت دیگر به آن اضافه کند و ظرفیت حافظه HBM3E را به ۵۷۶ گیگابایت برساند. چنین حجم عظیم حرارتی و توان مصرفی ۶۰۰ واتی هر کارت، AMD را مجبور کرده تا کل سیستم را به مدار خنککننده مایع اختصاصی مجهز کند.
اجرای مدلهای یک تریلیون پارامتری در یک PC
ادعای AMD درباره اجرای محلی مدلهای یک تریلیون پارامتری در نگاه اول غیرواقعی به نظر میرسد، چرا که چنین مدلی در حالت عادی حداقل به ۲ ترابایت حافظه نیاز دارد. اما کلید حل این معما در پشتیبانی سختافزاری MI350P از فرمتهای محاسباتی کمدقت یا همان Quantization نهفته است.
این شتابدهنده میتواند مدلها را روی فرمتهای ۴ بیتی مثل MXFP4 اجرا کند. با این روش، حجم وزنهای یک مدل تریلیون پارامتری به حدود ۵۰۰ گیگابایت کاهش مییابد و بهراحتی داخل ۵۷۶ گیگابایت حافظه HBM3E جای میگیرد. در این میان، ۲ ترابایت رم DDR5 سیستم نیز به عنوان یک انبار بزرگ برای ذخیره دیتاستها و بافرهای نرمافزاری عمل میکند تا حافظه سریع HBM3E فقط درگیر محاسبات لحظهای GPU باشد.
محدودیتهای گذرگاه PCIe 5.0
با وجود این ارقام شگفتانگیز، نگاه دقیقتر به ساختار سیستم برخی محدودیتهای فنی را فاش میکند. ظرفیت ۵۷۶ گیگابایتی HBM3E یک حافظه یکپارچه نیست، بلکه بین چهار کارت مجزا تقسیم شده است.
کارتهای MI350P با فرمفاکتور PCIe عرضه میشوند و بر خلاف نسخههای گرانقیمت دیتاسنتری، به اتصالات اختصاصی و مستقیم Infinity Fabric Link مجهز نیستند. این یعنی تمام تبادلات داده بین چهار کارت باید از طریق گذرگاه PCIe 5.0 انجام شود که میتواند در بارهای کاری پیچیده به یک گلوگاه تبدیل شود.
همچنین اجرای واقعی مدلها بستگی شدیدی به طول پنجره بافت و حجم حافظه لازم برای KV Cache دارد و نباید انتظار داشت هر مدل تریلیون پارامتری بدون محدودیت روی این سیستم اجرا شود.
قیمت و جایگاه بازار
اگرچه AMD هنوز قیمت رسمی Threadripper Halo Station را اعلام نکرده، اما بررسی قیمت قطعات مجزا میتواند برآورد سرانگشتی در خصوص قیمت این ورکاستیشن به ما بدهد.
برای مثال در زمان نگارش این مطلب، پردازنده سیستم حدود ۱۲ هزار دلار، هر کارت MI350P حدود ۲۰ هزار دلار و ۲ ترابایت رم سروری نزدیک به ۵۰ هزار دلار قیمت دارند. با اضافه کردن هزینه مادربرد اختصاصی، منبع تغذیه و خنککننده مایع، قیمت نسخه پایه از ۱۰۰ هزار دلار و نسخه کامل با چهار کارت از ۱۵۰ هزار دلار عبور خواهد کرد.
برای مقایسه، سیستمهای مشابه مانند Lenovo ThinkStation P8 با تجهیزات حداکثری قیمتی بیش از ۳۳۴ هزار دلار دارند؛ موضوعی که نشان میدهد مرز قیمتی میان ورکاستیشنهای ردهبالا و سرورهای دیتاسنتر رسماً از میان رفته و البته محصولات بر پایه پلتفرم جدید AMD میتوانند بسیار ارزانتر از قبل، در اختیار کاربران قرار گیرند.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت