استارتاپ کوچک انگلیسی انویدیا را به چالش کشید؛ اجرای سریع‌تر کدهای CUDA روی کارت‌های AMD

استارتاپ انگلیسی Spectral Compute از کامپایلری به نام SCALE رونمایی کرده که می‌تواند کدهای CUDA را روی کارت‌های گرافیک AMD بهتر و سریع‌تر از ابزارهای رسمی خود AMD اجرا کند.

CUDA سال‌هاست به استاندارد اصلی HPC و بسیاری از پروژه‌های هوش مصنوعی تبدیل شده و اغلب توسعه‌دهندگان آن را جدایی‌ناپذیر از پردازنده‌های گرافیکی انویدیا می‌دانند. Spectral Compute قصد دارد این وابستگی را از بین ببرد و امکان اجرای کدهای CUDA روی سخت‌افزارهای دیگر، از جمله GPUهای AMD، را بدون نیاز به بازنویسی کد فراهم کند.

استارتاپ Spectral Compute در سال 2018 توسط چهار مهندس با مجموع حدود 60 سال تجربه در بهینه‌سازی سیستم‌های HPC تأسیس شد. بنیان‌گذاران این شرکت می‌گویند ایده ساخت SCALE زمانی شکل گرفت که هنگام فعالیت در یک شرکت هوش مصنوعی، از قیمت بالای کارت‌های گرافیک انویدیا و عملکرد ضعیف کامپایلرهای جایگزین خسته شدند و تصمیم گرفتند با تکیه بر LLVM و Clang راهکار اختصاصی خود را توسعه دهند.

برخلاف ابزارهایی مانند HIPIFY یا SYCLomatic که کدهای CUDA را به زبان‌های دیگر تبدیل می‌کنند، SCALE یک کامپایلر مستقل است که کدهای CUDA را مستقیماً برای سخت‌افزار مقصد دوباره کامپایل می‌کند. به گفته Spectral، این رویکرد مشابه کامپایلرهای پردازنده‌های مرکزی است که امکان اجرای یک کد روی معماری‌های مختلف را فراهم می‌کنند و تفاوت عملکرد بیشتر به سخت‌افزار وابسته است.

ادعای عملکرد بهتر SCALE نسبت به ابزارهای AMD

بر اساس گزارش techspot حدود 80 درصد کدهای مورد استفاده در حوزه HPC با CUDA نوشته شده‌اند و این فناوری عملاً به استاندارد این صنعت تبدیل شده است. از همین رو این شرکت به‌جای تلاش برای جایگزینی CUDA، تمرکز خود را بر اجرای آن روی پلتفرم‌های مختلف گذاشته است.

این شرکت می‌گوید کامپایلر SCALE محدودیت‌های ابزارهای فعلی را ندارد. برای مثال، HIPIFY شرکت AMD کدهای CUDA را به ++C مخصوص پلتفرم ROCm تبدیل می‌کند اما از برخی قابلیت‌های سطح پایین مانند PTX به‌طور کامل بهره نمی‌برد.

ابزار SYCLomatic اینتل نیز تنها حدود 90 درصد کدها را به‌صورت خودکار منتقل می‌کند و مابقی نیازمند اصلاح دستی است. ابزارهایی مانند ZLUDA هم در سطح فایل‌های باینری فعالیت می‌کنند که می‌تواند روی عملکرد تأثیر منفی بگذارد.

Spectral اعلام کرده با کامپایل مجدد کد از سورس و مقایسه خروجی با کامپایلر رسمی NVCC، هم دقت حفظ می‌شود و هم کارایی افزایش می‌یابد. بنچمارک‌های منتشرشده توسط این شرکت نشان می‌دهد SCALE در برخی سناریوها روی کارت‌های گرافیک AMD تا نزدیک به 6 برابر سریع‌تر از HIPIFY عمل کرده است.

در حال حاضر تمرکز اصلی Spectral روی سخت‌افزارهای AMD است، اما این شرکت اعلام کرده قصد دارد در آینده از شتاب‌دهنده‌های هوش مصنوعی بیشتری نیز پشتیبانی کند. همچنین توسعه‌دهندگان تأکید می‌کنند که SCALE همچنان از GPUهای انویدیا نیز پشتیبانی می‌کند و حتی روی این سخت‌افزارها نیز امکان بهبود عملکرد از طریق بهینه‌سازی فرآیند کامپایل وجود دارد.