داریو آمودی، مدیرعامل آنتروپیک، از شرکتهای فعال در حوزه هوش مصنوعی خواسته است سرعت توسعه قابلیتهای مدلهای پیشرفته را کاهش دهند. او معتقد است این کاهش سرعت باید فرصت بیشتری برای ایجاد سازوکارهای ایمنی، ارزیابی مستقل و نظارت بر مدلهای هوش مصنوعی فراهم کند.
داریو آمودی در مقالهای مفصل هشدار داده است که شتاب فعلی توسعه هوش مصنوعی ممکن است از توانایی انسان برای درک و کنترل پیامدهای آن پیشی بگیرد. او تأکید کرده است که منظورش توقف آموزش مدلها یا متوقف کردن پیشرفت فناوری نیست، بلکه شرکتها باید سرعت پیشرفت را به اندازهای کاهش دهند که فرصت کافی برای ایمنسازی و ارزیابی مدلها وجود داشته باشد.
برنامه سه مرحلهای آنتروپیک برای کنترل توسعه AI
آمودی برای رسیدن به این هدف یک برنامه 3 مرحلهای پیشنهاد کرده است. در گام نخست، شرکتهای پیشرو باید به ارزیابهای مستقل اجازه دهند با دسترسی گسترده، عملکرد و سازوکارهای ایمنی مدلها را بررسی کنند. آنتروپیک قصد دارد ارزیابهای شخص ثالث را بهصورت دائمی در شرکتهای فعال در حوزه مدلهای پیشرفته مستقر کند تا به ابزارها و فرایندهای ارزیابی ریسک دسترسی داشته باشند.
در مرحله دوم، شرکتهای هوش مصنوعی باید برای تدوین استانداردهای مشترک ایمنی و جلوگیری از توسعه کنترلنشده با یکدیگر همکاری کنند. آمودی معتقد است چنین همکاریهایی به شرکتها اجازه میدهد بدون نگرانی از عقب ماندن از رقبا، زمان بیشتری را صرف تحقیقات ایمنی و ایجاد سازوکارهای حفاظتی کنند. او حتی احتمال نیاز به معافیتهای محدود ضدانحصاری در آمریکا برای تسهیل این همکاریها را مطرح کرده است.
مرحله سوم به همکاری بینالمللی مربوط میشود. آمودی خواستار ایجاد مجموعهای جهانی از استانداردهای ایمنی است، هرچند تأکید دارد که کشورهای دموکراتیک نباید در این مسیر برتری فناوری خود را نسبت به چین از دست بدهند. او پیشنهاد کرده است کنترل صادرات تراشههای پیشرفته، مقابله با سرقت وزنهای مدل و محدود کردن تکنیکهایی مانند تقطیر مدل نیز بخشی از این راهبرد باشد.
یکی از مهمترین نگرانیهای آمودی، توانایی فزاینده مدلهای هوش مصنوعی برای بهبود عملکرد خود و مشارکت در ساخت نسلهای بعدی مدلهاست. او هشدار داده است که اگر این روند با سرعت فعلی ادامه پیدا کند، ممکن است توانایی سامانهها در آینده نزدیک از ظرفیت انسان برای کنترل آنها جلو بزند.
او همچنین به حادثه اخیر مربوط به عاملهای هوش مصنوعی اوپنایآی و هک سیستمهای خارجی اشاره کرده است. به گفته آمودی، در صورت ادامه رشد توانایی این عاملها، حتی یک «ازدحام» از عاملهای خودمختار میتواند در بازه 6 تا 12 ماه آینده بخش بزرگی از اینترنت را تحت تأثیر قرار دهد و خسارت اقتصادی بسیار سنگینی ایجاد کند.
مدیران OpenAI و xAI هم موافق کنترل توسعه هوش مصنوعی هستند
بر اساس گزارش Reuters دیدگاه آمودی تنها به آنتروپیک محدود نمانده است. ایلان ماسک، مدیرعامل xAI، و سم آلتمن، مدیرعامل OpenAI، نیز در شبکه اجتماعی X با موضع او درباره ضرورت افزایش همکاری و نظارت ایمنی موافقت کردهاند. آلتمن همچنین اعلام کرده است که OpenAI به استفاده از ارزیابهای مستقل با دسترسی گسترده متعهد خواهد شد.
این هشدارها در شرایطی مطرح میشوند که خود آنتروپیک نیز اخیراً چندین مورد استفاده مخرب از مدلهای Claude را گزارش کرده است؛ از توسعه تسلیحات و عملیات سایبری گرفته تا جاسوسی و کلاهبرداری. همین اتفاقات نشان میدهد بحث درباره سرعت توسعه هوش مصنوعی دیگر صرفاً یک نگرانی نظری نیست و شرکتهای سازنده نیز با نمونههای واقعی سوءاستفاده از مدلهای خود مواجه شدهاند.
در نهایت، آمودی نمیخواهد رقابت در صنعت هوش مصنوعی متوقف شود؛ بلکه معتقد است سرعت این رقابت باید با توانایی انسان برای ایمنسازی و کنترل مدلها هماهنگ شود. او بر این باور است که چند قدم عقبتر رفتن از شتاب فعلی میتواند زمان لازم برای ساختن سازوکارهای ایمنی پیش از رسیدن فناوری به نقاط دشوارتر و خطرناکتر را فراهم کند.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت