ترفند جالب Taalas در ساخت تراشه‌های AI که انویدیا را به چالش می‌کشد

یک استارتاپ در زمینه تراشه‌های هوش مصنوعی روشی تازه برای کاهش تأخیر و افزایش کارایی مدل‌های بزرگ زبان (LLM) معرفی کرده است. شرکت Taalas با ایجاد سخت‌افزار اختصاصی، مدل‌های هوش مصنوعی را مستقیماً روی تراشه پیاده می‌کند تا سرعت و عملکرد مدل هوش مصنوعی تا 10 برابر بیشتر شود.

در دنیای امروز هوش مصنوعی، تأخیر یکی از بزرگ‌ترین چالش‌ها محسوب می‌شود، به‌خصوص در محیط‌های که سرعت پردازش توکن‌ها (TPS) نقش حیاتی دارد. برخی شرکت‌ها مانند Cerebras و Groq با استفاده از SRAM به دنبال راه‌حل هستند، اما Taalas مسیر متفاوتی را انتخاب کرده و به سمت ASIC برای LLMها حرکت کرده است.

وقتی Taalas برای هر مدل AI یک تراشه سفارشی می‌سازد

این استارتاپ که 2.5 سال پیش تأسیس شد، پلتفرمی توسعه داده که هر مدل هوش مصنوعی را ظرف 2 ماه به تراشه سفارشی تبدیل می‌کند. در نتیجه مدل‌هایی سخت‌افزاری داریم که از نظر سرعت، هزینه و مصرف انرژی ده برابر بهتر از پیاده‌سازی نرم‌افزاری عمل می‌کنند.

بر اساس گزارش wccftech رویکرد Taalas بر دو اصل استوار است. اولین راهکار تخصصی کردن پردازش‌های AI در سطح سخت‌افزار است؛ به این معنی که شبکه‌های عصبی LLM به طور مستقیم روی سیلیکون پیاده می‌شوند تا هر مدل بهینه شود.

رویکرد دوم، ادغام حافظه و پردازش برای کاهش محدودیت‌های حافظه است. تمام محاسبات در تراکم سطح DRAM انجام می‌شود تا ارتباط بین اجزا سریع‌تر باشد. این طراحی ساده، بدون نیاز به سیستم‌های پیشرفته خنک‌کننده یا HBM، توانسته مشکل تأخیر را به شکل مؤثری حل کند.

HC1 اولین محصول شرکت است که شامل مدل Llama 3.1 8B شرکت متاست. نتایج عملکرد این تراشه 10 برابر TPS بیشتر نسبت به زیرساخت‌های فعلی و 20 برابر کاهش هزینه تولید است. تراشه HC1 با فناوری 6 نانومتری TSMC و مساحت 815 میلی‌متر مربع ساخته شده که تقریباً هم‌اندازه تراشه H100 انویدیا است.

این تراشه میزبان مدل 8 میلیارد پارامتری است، در حالی که LLMهای پیشرفته امروز تا 1 تریلیون پارامتر دارند. Taalas برای افزایش عملکرد از راهکار خوشه‌ای استفاده کرده و در هوش مصنوعی DeepSeek R1 به رقم 12 هزار TPS روی 30 تراشه دست یافته است.

این رویکرد سخت‌افزاری باعث می‌شود هر تراشه تنها برای مدل خاصی بهینه باشد و تغییر وزن مدل‌ها امکان‌پذیر نباشد. با این حال سرعت فوق‌العاده، این مدل را گزینه‌ای جذاب برای بازار هوش مصنوعی حرفه‌ای می‌کند.