شرکت انویدیا که این روزها مهمترین قطب پردازشی دنیا AI است از نسل بروز شده حافظه HBM موسوم به NVHBM، رونمایی کرده است. این حافظه که قرار است در شتابدهندههای هوش مصنوعی مورد استفاده قرار گیرد در مقایسه با HBM4E استاندارد تا ۳۰ درصد پهنایباند بیشتر و ۱۵ درصد مصرف انرژی کمتر ارائه میدهد.
چرا انویدیا سراغ HBM سفارشی رفت؟
شتابدهندههای هوش مصنوعی در هر نسل قدرتمندتر از قبل میشوند، اما افزایش قدرت محاسباتی به تنهایی مشکل را حل نمیکند. این تراشهها باید دائماً حجم بسیار زیادی از داده را از حافظه دریافت کنند. وزن مدلها، دادههای میانی و بهخصوص KV Cache در مدلهای بزرگ باعث شده پهنایباند حافظه به یکی از عوامل تعیینکننده عملکرد واقعی تبدیل شود.
در چنین شرایطی، HBM فقط یک حافظه سریع نیست. بخشی از توان، فضای سیلیکون و مصرف انرژی شتابدهنده صرف ارتباط با همین حافظه میشود. انویدیا با NVHBM تلاش کرده هر سه مسئله را همزمان هدف بگیرد: پهنایباند بالاتر، مصرف کمتر و فضای بیشتر برای خود بخش محاسباتی.
این فناوری در خلال عرضه فناوریهای جدید Nvidia در رویداد Hot Chips 2026 و همزمان با توسعه پلتفرم NVLink Fusion معرفی شده است. NVLink Fusion به شرکتهای سازنده تراشه و غولهای ابری اجازه میدهد شتابدهندههای اختصاصی خود را بسازند و آنها را به زیرساخت ارتباطی انویدیا متصل کنند. حالا NVHBM هم قرار است یکی از اجزای این اکوسیستم باشد.
کنترلر حافظه از تراشه اصلی خارج میشود
یکی از تغییرات اصلی NVHBM به محل قرارگیری Memory Controller مربوط است. در معماری معمول HBM، کنترلر حافظه روی دای اصلی XPU (تراشه پردازشی عمومی و شتابدهنده AI) قرار دارد و بخشی از فضای تراشه را اشغال میکند.
در NVHBM انویدیا کنترلر سفارشی خود را به دای پایه یا همان Base Die در پایین پشته HBM منتقل کرده است. در نتیجه، بخشی از مدارهای مربوط به حافظه دیگر روی دای اصلی XPU قرار نمیگیرند. بنابر اعلام تیم سبز، این تغییر میتواند تا ۲۵ درصد فضای بیشتری روی دای پردازشی ایجاد کند.
این فضای اضافه را میتوان برای هستهها و واحدهای محاسباتی بیشتر، کش بزرگتر یا مدارهای اختصاصی مورد نیاز یک شتابدهنده استفاده کرد. بنابراین در این فناوری هدف فقط کوچکتر کردن مدارهای حافظه نیست. مسئله اصلی این است که در یک مساحت مشخص از پکیج، سهم بیشتری به واحدهای محاسباتی اختصاص پیدا کند.
نکته دیگر در مورد NVHBM آن است که این فناوری از PHY سفارشی استفاده میکند. این بخش وظیفه برقراری ارتباط پرسرعت میان تراشه و حافظه را بر عهده دارد و کوچکتر شدن آن به کاهش فضای مورد نیاز برای مدارهای ارتباطی و سادهتر شدن مسیرکشی در پکیج کمک میکند.
۳۰ درصد پهنایباند بیشتر با ۱۵ درصد مصرف کمتر
انویدیا اعلام کرده NVHBM میتواند در مقایسه با HBM4E استاندارد، تا ۳۰ درصد پهنایباند بیشتر به ازای هر پشته ارائه کند. این افزایش برای بارهای کاری وابسته به حافظه اهمیت زیادی دارد، چون در چنین سناریوهایی سرعت رساندن داده به واحدهای محاسباتی میتواند مستقیماً روی توان عملیاتی اثر بگذارد.
از طرف دیگر، مصرف انرژی بخش HBM نیز طبق اعلام شرکت تا ۱۵ درصد کاهش پیدا میکند. در یک شتابدهنده منفرد شاید این عدد خیلی بزرگ به نظر نرسد، اما وقتی صحبت از هزاران تراشه در یک دیتاسنتر است، صرفهجویی کوچک در هر پشته حافظه میتواند در مقیاس کل زیرساخت به مقدار قابل توجهی تبدیل شود.
انویدیا حتی این را نیز ادعا کرده که ترکیب این بهبودها در سطح XPU میتواند به ۳۰ درصد افزایش عملکرد کلی منجر شود. البته این عدد یک ادعای کلی از سوی انویدیاست و نباید آن را معادل ۳۰ درصد افزایش عملکرد در تمام برنامههای هوش مصنوعی دانست. میزان سود واقعی به نوع بار کاری و میزان وابستگی آن به پهنایباند حافظه بستگی دارد.
NVHBM جایگزین HBM4E نیست
با وجود نام NVHBM، این فناوری قرار نیست یک استاندارد جدید برای کنار گذاشتن HBM4E باشد. انویدیا آن را به عنوان یک پیادهسازی سفارشی HBM برای شرکای پلتفرم اختصاصی NVLink Fusion توسعه داده است.
در واقع انویدیا طراحی Base Die و بخشهای ارتباطی سفارشی را فراهم میکند و تولید حافظه همچنان توسط شرکای فعال در ساخت حافظه انجام خواهد شد. این شرکت میخواهد یک پیادهسازی استاندارد از NVHBM را در اختیار چند تولیدکننده قرار دهد تا سازندگان شتابدهنده مجبور نباشند برای هر تأمینکننده، فرآیند طراحی و اعتبارسنجی جداگانهای انجام دهند.
نخستین شریک اعلامشده برای همکاری روی NVHBM نیز Annapurna Labs از زیرمجموعههای شرکت آمازون است. این همکاری در چارچوب برنامه گستردهتر Amazon و انویدیا برای استفاده از NVLink Fusion انجام میشود.
هدف انویدیا الحاق حافظه به معماری شتابدهنده AI
اما در کنار رویکرد فنی خاصی که عنوان شد باید اضافه کنیم که اهمیت NVHBM فقط به ۳۰ درصد پهنایباند بیشتر خلاصه نمیشود. اتفاق مهمتر این است که انویدیا در حال نزدیکتر کردن طراحی پردازنده، حافظه و ارتباط میان تراشهها به یکدیگر است.
در نسلهای قبلی، HBM تا حد زیادی به عنوان یک قطعه بسیار سریع در کنار پردازنده حاضر میشد. اما در شتابدهندههای امروزی، هر میلیمتر مربع از دای و هر وات مصرف انرژی اهمیت دارد. به همین دلیل، محل قرارگیری کنترلر حافظه، طراحی PHY و حتی نحوه اتصال HBM به XPU به بخشی از طراحی اصلی تراشه تبدیل شده است.
NVHBM نمونهای از همین تغییر نگاه است. انویدیا به جای اینکه فقط منتظر سریعتر شدن استاندارد HBM بماند، بخشهایی از معماری حافظه را متناسب با نیاز شتابدهندههای AI خودش بازطراحی کرده است.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت