صرفه جویی میلیون دلاری مایکروسافت در مصرف حافظه رم سرورها به لطف تکنیک جذاب CXL Memory Pooling

شرکت‎های بسیار بزرگ خدمات ابری مانند مایکروسافت، گوگل و آمازون همواره با یک چالش بزرگ در ارائه خدمات سروری خود به مشتریان خرد روبرو هستند که آن بی استفاده ماندن بخش بزرگی از حافظه در بیشتر مواقع است. اما در این زمینه تکنیک CXL Memory Pooling می‎تواند راهکاری باشد که علاوه بر کاهش میلیون‎ها دلار هزینه اضافی، موجب ارزان‌‎تر شدن خدمات نیز شود.

یک مشکل تاریخی در مدیریت مصرف حافظه در سرورهای ابری

شرکت‎های هایپراسکلیر که در مقیاس جهانی به ارائه خدمات سرور مجازی می‎پردازند همواره با چالش مهم مدیریت منابع خود روبرو هستند. این شرکت‎ها در عین اینکه باید تعهد ارائه خدمات بلادرنگ خود به مشتریان را برآورده کنند، باید به این موضوع نیز بیندیشند که چطور سخت‎افزارهای نیاز روزافزون مشتریان خود را پاسخگو باشند.

در واقع این شرکت‎ها در هنگام فروش سرور، محصولات خود را به صورت پکیج مشخص به مشتریان ارائه می‎دهند. برای مثال شما به عنوان مشتری تنها مجاز به انتخاب تعداد هسته CPU و ظرفیت حافظه RAM هستید که متناسب با آن ارائه می‎شود. برای مثال پردازنده تک هسته‎ای با 2 گیگابایت رم همراه شده و اگر پردازنده چهار هسته‎ای سفارش دهید، رم سیستم نیز 4 یا 8 گیگابایتی خواهد بود.

پس از سفارش پکیج VM آن پردازنده و رم به اجاره شما درآمده و دیگر شرکت در مصرف آن دخل و تصرفی نخواهد داشت.

50 درصد مشتریان سرویس‌های ابری هیچ گاه بیش از 50 درصد از حافظه سیستم اجاره‌ای خود را هم مصرف نمی‌کنند

اما بنابر تحقیقات اخیر و گزارش TechPowerUp، این قراردادها به خودی خود موجب اتلاف بخش مهمی از منابع شرکت‎ها می‎شوند. گزارش‌‎های اخیر تأیید می‎کنند که 50 درصد مشتریان هیچ‎گاه بیش از 50 درصد از حافظه رم سیستم‎های اجاره شده خود را مصرف نمی‎کنند و این بخش از حافظه اجاره شده همیشه خالی و البته خارج از دسترس شرکت نیز خواهد بود.

در این زمینه یکی از مدیران سرویس Azure مایکروسافت می‎گوید:

در Azure ما متوجه شدیم که بخش اعظمی از ناکارآمدی سیستم‎هایمان در زمینه DRAM اتفاق می‎‌افتد. در این بخش یک سکون در استفاده از ظرفیت آزاد رم زمانی به وجود می‌آید که این حافظه توسط کاربری به واسطه قرارداد اجاره ماشین مجاری، در اختیار او قرار گرفته باشد. در حالی که هسته‎های پردازنده مورد بحث به صورت کامل به انجام وظایف محوله کاربر مشغولند، حافظه رم در تصرف او بیکار مانده و عملاً بلااستفاده است. با کمال تعجب باید بگوییم که دریافتیم در آن واحد ممکن است 25 درصد از حافظه رم اجاره داد شده ما به کاربران در لحظه بیکار باشند و شاید هیچ‎گاه نیز مورد استفاده قرار نگیرند.

ایده CXL Memory Pooling یک راهکار نجات بخش

در این زمینه مایکروسافت ایده بررسی رفتار سرورهای کاربران میان‎رده را مد نظر قرار داده و متوجه شده که بهترین راهکار آن است که به هر پردازنده همان میزان از حافظه که نیاز دارد ارائه شود تا بتوان از حجم وسیعی از اتلاف منابع در این زمینه جلوگیری شود.

در این زمینه تکنیکی جذاب (و نه چندان جدید) موسوم به CXL Memory Pooling می‎تواند یک راهکار بسیار کارآمد باشد که بر اساس ایده پروتکل CXL (سیستم مدیریت دسترسی پردازنده به حافظه در سرورها) شکل گرفته است.

ایده جدید بر پایه CXL به سیستم مدیریت خدمات اجازه می‎دهد که استفاده از حافظه را به صورت کلی مدیریت کرده و در حالت کلی بین 9 تا 10 درصد استفاده از حافظه‎های DRAM در بستر مورد بحث را کاهش دهند. نکته جالب توجه این است که این کاهش منابع منجر به کاهش هزینه‎های میلیون دلاری در مقیاس ابرشرکتی مانند مایکروسافت و سرویس Azure می‎شود.

بنابر برآوردهای انجام شده توسط مایکروسافت، این کاهش هزینه در فاز ابتدایی خود منجر به کاهش 4 تا 5 درصدی هزینه‎های پایگاه‎های داده شرکت نیز خواهد شد. در نظر داشته باشید که تأمین حافظه‌‎های DRAM به تنهایی 50 درصد از هزینه‎های سرورهای در این حجم را تشکیل داده و هر نوع صرفه‎جویی در هر سطح می‎تواند از سوی مدیران مجموعه به صورت ویژه مورد توجه قرار گیرد.

معایب تکنیک پولینگ حافظه CXL

مطالعات مایکروسافت نشان داده که میزان بهره‎وری در استفاده از حافظه‎های DRAM در این حالت بستگی شدیدی به نوع کاربری سرورهای اجاره داده شده دارد. البته با توجه به اینکه دسترسی به حافظه‎های پولینگ موجب افزایش زمان انتظار بین 67 تا 87 نانوثانیه می‎شود، میزان عملکرد به صورت ملموسی کاهش یافته ولی در عوض مدیریت منابع بسیار ارزان‎تر خواهد بود.

نکته مهم دیگر این است که با توجه به خواسته‎ها و نیازهای مشتریان، نزدیک به 20 درصد از آنها به هیچ عنوان متوجه این کاهش عملکرد نخواهند شد، 23 درصد از کاربران کاهش عملکردی کمتر از 5 درصد و 25 درصد از آنها نیز کاهش سرعت عملکردی تا 20 درصد را دریافته و تنها 12 درصد از مشتریان هستند که با کاهش سرعت و عملکرد بیش از 30 درصدی سرور مجازی خود روبرو می‎‌شوند.

آینده روشن با همکاری هوش مصنوعی و پروتکل جدید CXL

بنابر اعلام مایکروسافت این تنها اولین نسل از تکنیک CXL Memory Pooling است که روی سخت‎افزارهای سرورهای مجازی شرکت مورد آزمون قرار گرفته است. این شرکت قصد دارد تکنیک مذکور را همچنان توسعه داده و با ترکیب آن با هوش مصنوعی و رفتارشناسی کاربران، شرایطی فراهم کند که بتوان بالاترین عملکرد را در اختیار آنها قرار داد.

مسلماً استفاده از هوش مصنوعی به نوبه خود موجب ارتقا عملکرد خواهد شد و هر سرور مجازی که کاربری سفارش داده با آنالیز احتیاجات پردازشی او، سطح CXL Pooling را پیاده می‎کند. در این شرایط توازنی مفید بین عملکرد پولینگ و میزان حافظه ذخیره DRAM کاربر صورت می‎گیرد تا کاهش سرعت و عملکرد به کمترین حد خود برسد و در عوض با کاهش مصرف منابع، هزینه‎ها نیز تا جای ممکن برای سرویس دهنده و سرویس‎گیرنده کاهش یابد.