غولهای صنعت هوش مصنوعی سالهاست روی حافظههای HBM شرط بستهاند. اما یک استارتاپ به نام d-Matrix با شتابدهنده جدیدش مسیر دیگری را انتخاب کرده است. پردازنده Raptor این شرکت تنها ۳۲ گیگابایت حافظه دارد اما پهنای باندی بیش از ۱۰۰ ترابایت بر ثانیه را نوید میدهد. اما آیا این تغییر
شرکت d-Matrix در رویداد Hot Chips 2026 از رویکردی متفاوت برای تأمین داده پردازندهها رونمایی کرد. شتابدهنده جدید این شرکت با نام رپتور (Raptor)، بهجای قرار دادن حافظههای HBM در کنار پردازنده، یک لایه محاسباتی ساخته شده با فرآیند TSMC N4 را مستقیماً روی تراشه حافظه DRAM میچیند. به گفته این شرکت، این روش امکان دستیابی به پهنای باند بسیار بالاتر را با مصرف انرژی کمتر فراهم میکند.
۳۲ گیگابایت حافظه با پهنای باند ۱۰۰ ترابایت بر ثانیه
تراشه رپتور ۳۲ گیگابایت حافظه از نوع 3D-DRAM را با پهنای باندی بیش از ۱۰۰ ترابایت بر ثانیه ترکیب میکند. برای مقایسه، د-متریکس پیکربندی ۱۹۲ گیگابایتی HBM4 خود را دارای پهنای باندی حدود ۱۸ ترابایت بر ثانیه اعلام کرده است. به بیان دیگر، در حالی که HBM ظرفیت بسیار بیشتری ارائه میدهد، طراحی 3D-DRAM برای جابهجایی سریعتر حجم کوچکتری از داده بهینه شده است.
تمرکز بر هوش مصنوعی، نه پردازش گرافیک
به گفته d-Matrix، مرحله رمزگشایی (decode) در اجرای مدلهای زبانی بزرگ اغلب با محدودیت پهنای باند حافظه مواجه است، زیرا تولید هر توکن جدید نیازمند دسترسی مکرر به دادههای مدل و حافظه کش KV است. این شرکت معتقد است طراحی 3D-DRAM بیشترین تأثیر خود را دقیقاً در همین نقطه نشان خواهد داد.
بازده انرژی و چالش مصرف توان
بر اساس اندازهگیریهای d-Matrix، اتصال عمودی حافظه در رپتور به میزان ۰.۳۷ پیکوژول بر بیت انرژی مصرف میکند، در حالی که این رقم برای HBM4 در مقایسه انجامشده بین ۲ تا ۳ پیکوژول بر بیت گزارش شده است. با اینحال سرعت بالای انتقال اطلاعات در این پردازنده به این معناست که رپتور به حدود ۲۹۶ وات توان تنها برای عملیات حافظه نیاز دارد.
شرکت d-Matrix همچنین مدعی است طراحی رپتور نسبت به پیکربندی HBM4 پردازنده Rubin R200 انویدیا، حدود ۲۰ برابر پهنای باند بیشتر به ازای هر میلیمتر مربع و ۱۳.۵ برابر مصرف انرژی کمتر به ازای هر واحد پهنای باند دارد. لازم به ذکر است که این اعداد، محاسبات و اندازهگیریهای داخلی d-Matrix هستند و نه نتیجه آزمایشهای عملکردی مستقل؛ با این حال نشان میدهند این شرکت با قرار دادن DRAM درست زیر پردازنده، به دنبال چه هدفی است.
چالشهای حرارتی و ظرفیت محدود
قرار دادن DRAM در فاصلهای اینچنین نزدیک به پردازنده، مسائل جدیدی مثل گرما، نرخ تازهسازی دادهها که در DRAM باید انجام شود و پایداری دادهها ایجاد میکند. ضمن اینکه ظرفیت ۳۲ گیگابایتی هر کارت، بهمراتب کمتر از شتابدهندههای فعلی مبتنی بر HBM است. d-Matrix برای مقابله با این محدودیتها، از نرخ تازهسازی سریعتر، فناوری تصحیح خطا (ECC) و بانکهای حافظه پشتیبان استفاده کرده است. بنابراین رپتور را نباید صرفاً یک HBM سریعتر دانست، بلکه طراحی حافظهای متفاوت است که برای بارهای کاری هوش مصنوعی و با اولویت پهنای باند بر ظرفیت ساخته شده است.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت