یک گزارش جدید نشان می‌دهد توانایی های شگفت انگیز ربات هوش مصنوعی ChatGPT حاصل آموزش با استفاده از تعداد سرسام آوری کارت گرافیک A100 انویدیا بوده است.. ظاهراً ChatGPT هم مشتری انویدیا است، جزئیات جالب را در شهر سخت افزار بخوانید.
آموزش ChatGPT با پردازنده گرافیکی A100 انویدیا
بر اساس گزارش منتشر شده از سوی Bloomberg، سازنده ربات ChatGPT برای آموزش آن سراغ مایکروسافت رفته و از یک ابر کامپیوتر مجهز به صدها هزار کارت گرافیک A100 انویدیا استفاده کرده است. البته مایکروسافت خبر از به‌کارگیری شتاب دهنده جدیدتر H100 انویدیا برای پروژه‌های آینده مشتریان خود داده است.
مایکروسافت در سال 2019 میلادی یک میلیارد بر روی استارت آپ OpenAI و ساخت ابر کامپیوتر برای آن سرمایه گذاری کرد. با این حال از آنجایی که مایکروسافت خود سخت افزار تولید نمی‌کند، سراغ محصولات انویدیا رفته است.
تهیه صدها هزار کارت گرافیک یا شتاب دهنده گرافیکی و نصب آنها، تنها کاری نیست که مایکروسافت انجام داده است. این غول نرم افزاری برای راهی برای چیدن، تغذیه و دفع گرمای چنین تعداد سرسام آوری کارت گرافیک پیدا می‌کرد. همچنین این کمپانی باید برای قطع احتمالی برق چاره‌ای می‌اندیشید.
مایکروسافت برای اینکه بتواند صدها هزار شتاب دهنده A100 انویدیا را به طور هم زمان مورد استفاده قرار بدهد، راهکارهای ابداعی خود را برای نصب، چینش و تغذیه آنها بکار گرفته است. همچنین در سطح نرم افزار و تجهیزات شبکه نیز باید روش‌هایی را به کار می‌گرفت که از عهده انتقال چنین حجم عظیمی از داده‌ها بر آیند.
در همین رابطه بخوانید:
- ChatGPT می‌تواند به کابوس جدید گیمرها تبدیل شود
- نیاز فزاینده ChatGPT به پردازنده‌های گرافیکی انویدیا؛ داروی هوش مصنوعی برای تیم سبز
مایکروسافت برای دفع گرما نیز از چندین روش مختلف استفاده کرده است که بسته به شرایط آب و هوایی فصلی انتخاب می‌شدند.
NVIDIA A100 یک کارت گرافیک کلاس حرفه‌ای از انویدیا است که سال 2020 میلادی با فناوری ساخت 7 نانومتری معرفی شد. این شتاب دهنده نزدیک به 7000 هسته CUDA و 40 گیگابایت حافظه HBM2e دارد که پهنای باند آن به بیش از 1.5 ترابایت در ثانیه می‌رسد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت