انویدیا از مدل هوش مصنوعی متنباز جدیدی با نام Nemotron 3.5 Lightning رونمایی کرده است. این مدل سبکوزن برای اجرای محلی روی کامپیوترهای شخصی و لپتاپها بهینه شده و انویدیا ادعا میکند در انجام وظایف تکراری ایجنتهای هوش مصنوعی میتواند تا 4 برابر سریعتر از مدلهای مشابه عمل کند.
یکی از مهمترین ویژگیهای Nemotron 3.5 Lightning امکان اجرای آن بهصورت کاملاً آفلاین و لوکال است. این مدل حتی روی یک کارت گرافیک ردهبالای مصرفی مانند RTX 5090 قابل اجراست و از سیستمهای Jetson و DGX Spark نیز پشتیبانی میکند. به این ترتیب کاربران برای اجرای مدل الزاماً به زیرساختهای ابری یا دیتاسنترها وابسته نخواهند بود.
مشخصات Nemotron 3.5 Lightning
Nemotron 3.5 Lightning در مجموع 30 میلیارد پارامتر دارد، اما به لطف استفاده از معماری Mixture of Experts (MoE) در زمان پردازش هر توکن تنها حدود 3 میلیارد پارامتر فعال میشوند. این معماری به مدل اجازه میدهد ظرفیت یک مدل بزرگ را با مصرف منابع سختافزاری پایینتر در اختیار کاربر قرار دهد.
انویدیا میگوید Nemotron 3.5 Lightning در بنچمارک PinchBench به دقت 86 درصد دست یافته و توانسته مجموعهای شامل 10 هزار فرایند را حدود 30 درصد سریعتر از Qwen3.6 35B به پایان برساند. این شرکت برای کاهش حجم و افزایش کارایی مدل از تکنیک تقطیر دانش (Knowledge Distillation) و دانش مدلهای بزرگتر استفاده کرده است.
انتشار رایگان این مدل را میتوان بخشی از رویکرد انویدیا برای گسترش مدلهای متنباز دانست. این شرکت معتقد است توسعه مدلهای قابل اجرا بهصورت محلی میتواند تقاضا برای سختافزار و کارتهای گرافیک قدرتمند را افزایش دهد.
رونمایی از Nemotron 3.5 Lightning همچنین چند هفته پس از حمایت جن سون هوانگ، مدیرعامل انویدیا، از مدلهای متنباز انجام شده است. هوانگ پیشتر از سیاستگذاران آمریکایی خواسته بود از توسعه مدلهای متنباز حمایت کنند و محدودیتهای زودهنگام برای این فناوری اعمال نکنند.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت