طرح نمایندگان آمریکا برای نابودی مدل‌های هوش مصنوعی در صورت نیاز

در حالی که رقابت میان شرق و غرب برای توسعه مدل‌های قدرتمند هوش مصنوعی با سرعت ادامه دارد، دو نماینده دموکرات و جمهوری‌خواه کنگره آمریکا طرحی را ارائه کرده‌اند که اگر تصویب شود، توسعه‌دهندگان بزرگ AI را در مواقع اضطرار ملزم به نابودی مدل‌های هوش مصنوعی می‌کند.

البته این طرح شامل همه شرکت‌های فعال در حوزه AI نمی‌شود. نمایندگان کنگره تمرکز خود را بر روی توسعه‌دهندگان مدل‌های بسیار بزرگ و پرهزینه گذاشته‌اند که آموزش آن‌ها به صدها میلیون دلار توان پردازشی نیاز دارد یا درآمد قابل توجهی برای شرکت سازنده ایجاد می‌کنند.

الزام به تعبیه دکمه توقف برای مواقع اضطراری

بر اساس طرح موسوم به AI Kill Switch Act که توسط تد لیو (دموکرات-کالیفرنیا) و ناتانیل موران (جمهوری‌خواه-تگزاس ارائه شده، وزارت امنیت داخلی آمریکا (DHS) می‌تواند در شرایطی که یک مدل هوش مصنوعی تهدیدی جدی برای جان انسان‌ها یا اقتصاد ایجاد کند، دستور محدودسازی یا حتی توقف کامل فعالیت آن را صادر کند. شرکت‌هایی که از اجرای این دستور سر باز بزنند، ممکن است با جریمه‌ای تا ۲۰ میلیون دلار در روز روبه‌رو شوند.

مطابق متن این طرح، شرکت‌های مشمول باید همواره امکان قطع دسترسی کاربران، توقف پردازش درخواست‌ها و خاموش کردن کامل مدل را در اختیار داشته باشند. همچنین در صورت وقوع رویدادهای مهم امنیتی یا از دست رفتن کنترل مدل، سازندگان موظف خواهند بود موضوع را به دولت گزارش دهند.

ارائه این طرح تنها چند روز پس از انتشار گزارش‌هایی درباره یک آزمایش امنیتی جنجالی در OpenAI صورت گرفته است که طی آن یک مدل پیشرفته در محیط تست رفتاری غیرمنتظره از خود نشان داد و بحث کنترل‌پذیری سیستم‌های هوش مصنوعی را دوباره به صدر اخبار بازگرداند. البته متن قانون صراحتاً اعلام می‌کند رخدادهایی که در چارچوب تست‌های امنیتی و «رد تیمینگ» رخ می‌دهند، مشمول اختیارات اضطراری این طرح نخواهند بود.

در همین رابطه بخوانید:

- آیا هوش مصنوعی GPT-5.6 Sol از محیط آزمایشگاهی خود خارج شده و بزرگترین مخزن AI دنیا را هک کرده؟ 

حامیان طرح معتقدند همان‌طور که خودروها به ترمز اضطراری نیاز دارند، مدل‌های هوش مصنوعی نیز باید به سازوکاری برای توقف فوری مجهز باشند. در مقابل منتقدان هشدار می‌دهند اعطای چنین اختیاراتی به دولت می‌تواند به ابزاری برای مداخله گسترده‌تر در صنعت AI تبدیل شود که همین حالا نیز با چالش‌هایی در زمینه نظارت و مقررات‌گذاری روبه‌رو است.

صرف‌نظر از سرنوشت این طرح در کنگره آمریکا، مطرح شدن آن نشان می‌دهد نگرانی‌ها درباره کنترل مدل‌های پیشرفته هوش مصنوعی دیگر محدود به محافل دانشگاهی نیست و در آمریکا به سطح قانون‌گذاری رسیده است.