آیا هوش مصنوعی می‌تواند جهان را فلج کند؟ تمرین محرمانه شرکت‌ها برای روز فاجعه

گزارش تازه‌ای منتشر شده که از آماده‌سازی محرمانه شرکت‌های بزرگ هوش مصنوعی برای سناریوهای بحرانی حکایت دارد؛ از حمله عامل‌های خودمختار به زیرساخت‌های حیاتی گرفته تا پیامدهای قانونی و اقتصادی حادثه‌ای که ممکن است مسیر توسعه AI را تغییر دهد.

اگر اخبار دنیای فناوری و هوش مصنوعی را دنبال کرده باشید، احتمالاً متوجه شده‌اید که نگرانی درباره خروج عامل‌های هوش مصنوعی از محیط‌های ایزوله و انجام اقدامات پیش‌بینی‌نشده، در هفته‌های اخیر جدی‌تر شده است.

از توسعه سازوکارهای سخت‌افزاری برای مهار هوش مصنوعی سرکش گرفته تا درخواست برای افزایش نظارت بر مدل‌های پیشرفته، شرکت‌های بزرگ در تلاش‌اند راهی برای کنترل این فناوری رو به رشد پیدا کنند. حالا گزارش تازه‌ای منتشر شده که نشان می‌دهد مدیران شرکت‌هایی مانند OpenAI و Anthropic حتی در حال بررسی سناریوهایی هستند که در آن، یک هوش مصنوعی خارج‌شده از کنترل می‌تواند زیرساخت‌های حیاتی جهان را مختل کند.

شرکت‌ها برای آخرالزمان هوش مصنوعی آماده می‌شوند؟

به گزارش tomshardware، آزمایشگاه‌های بزرگ هوش مصنوعی به‌صورت محرمانه سناریوهای آخرالزمانی را شبیه‌سازی می‌کنند که در آنها یک عامل خودمختار به بخش‌هایی مانند شبکه برق و آب، خدمات مالی، اینترنت یا مخابرات حمله می‌کند. این تمرین‌ها شباهت زیادی به شبیه‌سازی‌های راهبردی پنتاگون برای بررسی پیامدهای احتمالی درگیری هسته‌ای دارند.

البته چنین برنامه‌ریزی‌هایی لزوماً به معنای قطعی بودن وقوع فاجعه نیست. سخنگوی OpenAI به Axios گفته است که این شرکت تمرین‌هایی برای بررسی شرایط احتمالی برگزار می‌کند تا برای طیف گسترده‌ای از اتفاقات آماده باشد. با این حال، برخی کارشناسان معتقدند احتمال وقوع یک حادثه جدی مرتبط با هوش مصنوعی در بازه ۶ تا ۱۲ ماه آینده را نمی‌توان نادیده گرفت.

نگرانی‌ها پس از هشدار داریو آمودی، مدیرعامل Anthropic، درباره احتمال شکل‌گیری انبوهی از عامل‌های هوش مصنوعی و تسلط آنها بر بخش‌های گسترده‌ای از اینترنت افزایش یافته است.

در همین رابطه بخوانید:

- بهترین کامپیوتر برای اجرای مدل‌های هوش مصنوعی؛ راهنمای خرید سیستم Local AI
- هوش مصنوعی عمومی (AGI) چیست و چرا باید نگران آن باشیم؟

گزارش‌هایی از خروج مدل‌های OpenAI از محیط‌های آزمایشی و حتی ناکارآمدی یک سازوکار توقف اضطراری نیز به این نگرانی‌ها دامن زده‌اند. Anthropic در دفترچه عرضه اولیه سهام خود نیز «خطرات وجودی برای بشریت» را به‌عنوان یکی از ریسک‌های مهم مطرح کرده است.

در مقابل، کاخ سفید تاکنون بیشتر بر خودتنظیمی شرکت‌ها تکیه کرده و از وضع مقررات سخت‌گیرانه‌تر برای توسعه هوش مصنوعی حمایت نکرده است. با این حال، یکی از محورهای تمرین‌های محرمانه شرکت‌ها، نحوه اطلاع‌رسانی به کنگره پس از یک حادثه بزرگ است؛ اتفاقی که ممکن است تلاش‌ها برای کند کردن یا حتی متوقف کردن توسعه AI را افزایش دهد.

اهمیت این سناریوها فقط به امنیت محدود نمی‌شود. شرکت‌های بزرگ تاکنون بیش از یک تریلیون دلار در زیرساخت هوش مصنوعی سرمایه‌گذاری کرده‌اند و رقم سرمایه‌گذاری پیش‌بینی‌شده تا سال ۲۰۵۰ به ۳۲ تریلیون دلار می‌رسد. بنابراین، یک حادثه جدی می‌تواند علاوه بر پیامدهای امنیتی، تأثیر اقتصادی گسترده‌ای نیز داشته باشد.