در سالهای اخیر هر نسل از شتابدهندههای AI با قدرت پردازشی بیشتر، تعداد هستههای بالاتر و حافظه HBM سریعتر معرفی شدهاند. اما با وجود این پیشرفتها، یک گلوگاه جدی این است که مدلهای هوش مصنوعی با سرعتی بسیار بیشتر از ظرفیت حافظه رشد میکنند. حالا از استانداردی جدید با نام High Bandwidth Flash (HBF) رونمایی شده که هدف آن، حل یکی از بزرگترین چالشهای معماری پردازندههای AI در سالهای آینده است.
قبل از هر توضیحی بگوییم که فناوری «حافظه فلش با پهنای باند بالا یا HBF» قرار نیست جایگزین حافظه HBM یا SSD شود؛ بلکه لایهای جدید میان این دو ایجاد میکند. این فناوری با بهرهگیری از حافظه NAND، پهنای باندی تا ۳ ترابایت بر ثانیه، پشتههای 16-Hi و اتصال مبتنی بر UCIe را هدف قرار داده تا شتابدهندههای هوش مصنوعی بتوانند به حجمی چندین برابر بیشتر از حافظههای امروزی، بدون وابستگی مستقیم به SSD، دسترسی داشته باشند.
بنابر گزارش Tom's Hardware، اگر این استاندارد مورد پذیرش صنعت قرار گیرد، میتواند یکی از مهمترین تغییرات معماری حافظه GPUها از زمان معرفی HBM باشد.
مشکل واقعی GPUهای هوش مصنوعی دیگر قدرت پردازش نیست
در نگاه اول شاید تصور شود رقابت شرکتهایی مانند NVIDIA، AMD و گوگل همچنان بر سر تعداد هستهها یا توان پردازشی است؛ اما واقعیت این است که در بسیاری از بارهای کاری هوش مصنوعی، پردازندهها پیش از آنکه به سقف توان محاسباتی خود برسند، با محدودیت حافظه مواجه میشوند.
مدلهای زبانی بزرگ امروزی تنها شامل میلیاردها پارامتر نیستند. دادههایی مانند KV Cache، پایگاههای برداری (Vector Database)، Embeddingها و اطلاعات موردنیاز برای سیستمهای بازیابی نیز باید تا حد امکان نزدیک پردازنده نگه داشته شوند. این نیاز، ظرفیت حافظه را به یکی از مهمترین عوامل تعیینکننده عملکرد تبدیل کرده است.
در چنین شرایطی، اگرچه حافظه HBM پهنای باند بسیار بالایی ارائه میدهد، اما تولید آن هزینه زیادی دارد و ظرفیتش نیز بهسادگی قابل افزایش نیست. از سوی دیگر، SSDها ظرفیت بالایی دارند اما اختلاف چند برابری آنها از نظر تأخیر و پهنای باند، باعث افت محسوس عملکرد در اجرای مدلهای بزرگ میشود.
شاید مخلص کلام آن باشد که بگوییم، اگر طی یک دهه گذشته، معرفی HBM مهمترین تحول در حافظه شتابدهندههای هوش مصنوعی بود، HBF میتواند آغازگر مرحله بعدی این تحول باشد.
HBF آمده تا شکاف میان HBM و SSD را پر کند
اگر از یک متخصص حافظه بپرسید، به شما میگوید که HBF یک کارراهانداز و واسط بوده و اینجاست که ایده High Bandwidth Flash اهمیت پیدا میکند. برخلاف HBM که بر پایه DRAM ساخته میشود، HBF از حافظه NAND Flash استفاده میکند؛ همان فناوریای که در SSDهای امروزی نیز به کار میرود. اما تفاوت این دو در آن است که HBF برای قرار گرفتن در کنار پردازنده و دسترسی مستقیم با پهنای باند بسیار بالا طراحی شده، نه برای ذخیرهسازی سنتی.
به بیان ساده، اگر معماری حافظه شتابدهندههای امروزی را یک ساختمان دوطبقه در نظر بگیریم، HBF طبقه سومی به آن اضافه میکند.
در این ساختار، HBM همچنان سریعترین و اصلیترین حافظه در سیستم پردازشی باقی میماند، SSD وظیفه ذخیرهسازی انبوه را بر عهده دارد و HBF بهعنوان یک لایه میانی، ظرفیتی چندین برابر HBM را با سرعتی بسیار بالاتر از SSD در اختیار پردازنده قرار میدهد.
اگر از افراد آشنا به حوزه حافظههای سرعت بالا باشید حتماً میدانید که این همان مفهومی است که صنعت از آن با عنوان Memory Tier یا سلسلهمراتب جدید حافظه یاد میکند.
استاندارد جدید HBF چه قابلیتهایی ارائه میدهد؟
نسخه اولیه مشخصات HBF چند ویژگی مهم را تعریف میکند که نشان میدهد این فناوری از ابتدا برای شتابدهندههای نسل آینده طراحی شده است
از جمله مهمترین مشخصات اعلامشده میتوان به موارد زیر اشاره کرد:
- پشتیبانی از پشتههای NAND هشت و شانزده لایه (8-Hi و 16-Hi)
- ظرفیت تا ۵۱۲ گیگابایت برای هر پکیج حافظه
- پهنای باند هدف تا ۳ ترابایت بر ثانیه
- استفاده از رابط UCIe برای ارتباط با پردازنده
- توسعه بهعنوان یک استاندارد باز در قالب پروژه Open Compute Project (OCP)
البته باید توجه داشت که مشخصات منتشرشده هنوز مربوط به نسخه اولیه استاندارد است و جزئیات نهایی پیادهسازی ممکن است در نسخههای بعدی تغییر کند.
یکی دیگر از نکات مهم این استاندارد، استفاده از پروتکل ارتباط داخلی UCIe (Universal Chiplet Interconnect Express) است. UCIe طی چند سال گذشته به یکی از مهمترین استانداردهای صنعت نیمههادی برای ارتباط میان چیپلتها تبدیل شده و حالا HBF نیز بر همین زیرساخت بنا شده است.
این موضوع احتمال پذیرش گستردهتر فناوری را افزایش میدهد، زیرا تولیدکنندگان مختلف پردازنده و حافظه میتوانند بدون وابستگی به یک راهکار اختصاصی، محصولات خود را بر پایه این استاندارد توسعه دهند.
HBF قرار نیست جایگزین VRAM شود
یکی از نکات مهمی که باید از ماهیت HBF برداشت کنیم این است که GPUهای آینده به جای HBM از HBF استفاده خواهند کرد. در حقیقت آنچه در دنیای واقعی اتفاق میافتد دقیقاً برعکس است؛ HBF مکمل HBM خواهد بود، نه جایگزین آن.
به عنوان مثال، ممکن است یک شتابدهنده هوش مصنوعی نسل آینده همچنان از ۱۹۲ یا ۲۵۶ گیگابایت حافظه HBM برای پردازشهای حساس استفاده کند، اما در کنار آن، چند ترابایت HBF نیز در اختیار داشته باشد تا مدلهای بسیار بزرگ یا دادههای جانبی را بدون مراجعه مداوم به SSD نگهداری کند.
به همین دلیل، افزودن HBF به سیستم را نباید به مثابه افزایش ظرفیت VRAM تلقی کرد؛ بلکه باید آن را ایجاد یک سطح جدید در سلسلهمراتب حافظه پردازندههای هوش مصنوعی بدانیم.
بزرگترین چالش HBF؛ پذیرش توسط صنعت
با وجود جذابیتهای فنی، HBF هنوز در ابتدای مسیر قرار دارد. در حال حاضر Google و Tenstorrent از حامیان اولیه این استاندارد هستند، اما هنوز نام شرکتهایی مانند انویدیا، AMD، اینتل، سامسونگ، مایکرون یا حتی برودکام در میان اعضای اصلی این پروژه دیده نمیشود.
تجربه صنعت نیمههادی نشان داده که حتی بهترین فناوریها نیز بدون شکلگیری یک اکوسیستم گسترده، شانس زیادی برای موفقیت ندارند. بنابراین موفقیت HBF بیش از آنکه به مشخصات فنی آن وابسته باشد، به میزان استقبال سازندگان پردازنده، حافظه و ارائهدهندگان زیرساختهای هوش مصنوعی بستگی خواهد داشت.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت