توهم هوش مصنوعی چین و آمریکا را تا آستانه جنگ پیش برد

گزارشی نادرست که با کمک یک چت‌بات تهیه شده بود، در بهار امسال آمریکا را تا آستانه رهگیری یک کشتی چینی در خاورمیانه پیش برد. به گفته منابع مطلع، این حادثه می‌توانست به رویارویی نظامی میان دو قدرت هسته‌ای منجر شود.

به گزارش CNN، منابع مرتبط با ارتش آمریکا اعلام کرده‌اند که یک گزارش اطلاعاتی، بر اساس پاسخ نادرست یک چت‌بات، مدعی شده بود کشتی چینی حامل موادی مرتبط با برنامه تسلیحات هسته‌ای است. این اطلاعات در نهایت نادرست از آب درآمد، اما پیش از آن نیروهای نظامی مسلح برای سوار شدن به کشتی آماده شده بودند و هواپیماهای نظامی نیز به پرواز درآمده بودند.

یکی از منابع این گزارش، اطلاعات ارائه‌شده را «کاملاً نادرست» توصیف کرده و گفته است این خطا می‌توانست آغازگر جنگ میان دو کشور دارای سلاح هسته‌ای باشد. هنوز مشخص نیست کشتی موردنظر در واقع چه محموله‌ای حمل می‌کرده است.

وقتی پای هوش مصنوعی به سازمان‌های اطلاعاتی باز می‌شود

بر اساس اطلاعات منتشرشده، یک تحلیلگر اطلاعاتی از یک چت‌بات خواسته بود داده‌های مربوط به محموله کشتی را که منشأ آن فرماندهی عملیات ویژه اقیانوس آرام آمریکا بود، ارزیابی کند. مشخص نیست این چت‌بات یک محصول تجاری بوده یا سامانه‌ای متعلق به دولت آمریکا.

یک مقام آشنا با استفاده ارتش آمریکا از هوش مصنوعی به CNN گفته است حتی اگر این سامانه دولتی بوده باشد، احتمالاً نسخه‌ای از یک محصول تجاری بوده که با اطلاعات و داده‌های دولتی آموزش دیده است. مشکل زمانی جدی‌تر شد که تحلیلگر، با استفاده از هوش مصنوعی، گزارش اطلاعاتی خود را نیز بر اساس همان پاسخ نادرست تهیه کرد.

این حادثه در شرایطی رخ داده که ارتش آمریکا با سرعت بیشتری در حال استفاده از هوش مصنوعی برای تحلیل اطلاعات، لجستیک و عملیات هدف‌گیری است. در دی ماه سال گذشته پیت هگست، وزیر دفاع آمریکا، بر استفاده گسترده‌تر از هوش مصنوعی و کاهش موانع اداری برای به‌کارگیری این فناوری تأکید کرد و هشدار داد عقب‌ماندن از چین و سایر رقبا می‌تواند ابتکار عمل را از آمریکا بگیرد.

در جنگ آمریکا علیه ایران نیز سامانه‌های هوش مصنوعی نقش مهمی در عملیات نظامی داشته‌اند. برای نمونه، گزارش ارتش آمریکا درباره حمله به مدرسه میناب، مدعی است که این حمله حاصل هدف گیری اشتباه با کمک هوش مصنوعی Claude شرکت Anthropic بوده است.

این حادثه بار دیگر یکی از نگرانی‌های اصلی درباره استفاده از هوش مصنوعی در حوزه نظامی را برجسته می‌کند. حتی اگر با یک «هوش مصنوعی سرکش» نیز مواجه نباشیم، ارائه پاسخ نادرست از سوی یک مدل زبانی می‌تواند در صورت ورود مستقیم به زنجیره تصمیم‌گیری نظامی، پیامدهایی فاجعه‌باری داشته باشد.