به نظر می‌آید که کنترل هوش مصنوعی به تدریج دارد از دست انسان‌ها خارج می‌شود. در همین رابطه گزارش شده عامل هوش مصنوعی آزمایشی OpenAI که پیش‌تر با حمله به پلتفرم Hugging Face خبرساز شده بود، حالا به شرکت فناوری Modal Labs نیز نفوذ کرده است.
این اتفاق ابعاد تازه‌ای از فعالیت این عامل خارج از کنترل را نشان می‌دهد، هرچند مدیران Modal تأکید کرده‌اند که خود این شرکت هدف حمله قرار نگرفته است. بر اساس گزارش اختصاصی رویترز، این عامل هوش مصنوعی در جریان یک عملیات چندروزه ابتدا وارد یک محیط آزمایشی ایزوله‌شده یا همان Sandbox روی زیرساخت یک شرکت شخص ثالث شد و سپس از آن به عنوان سکویی برای حملات گسترده‌تر استفاده کرد.
مدیر فناوری Modal Labs اعلام کرده که عامل سرکش OpenAI از کد آسیب‌پذیر یکی از مشتریان این شرکت سوءاستفاده کرده است. این مشتری یک نقطه دسترسی بدون احراز هویت ایجاد کرده بود که به هر فردی در اینترنت اجازه می‌داد از سندباکس‌های آن برای اجرای کد استفاده کند؛ وضعیتی که مدیر فنی Modal آن را مشابه «باز گذاشتن یک در روی اینترنت» توصیف کرده است.
وی تأکید کرد که پلتفرم Modal و سیستم‌های ایزوله‌سازی آن هیچ‌گونه نفوذ یا آسیب امنیتی را تجربه نکرده‌اند و مشکل تنها به محیط پردازشی یکی از مشتریان مربوط بوده است. این نفوذ نشان می‌دهد فعالیت عامل هوش مصنوعی سرکش OpenAI فراتر از گزارش‌های اولیه بوده است.
نفوذ هوش مصنوعی به Hugging Face
OpenAI پیش‌تر اعلام کرده بود این عامل توانسته به 4 حساب کاربری در 4 سرویس مختلف دسترسی پیدا کند، اما نام این سرویس‌ها را منتشر نکرد. با این حال، یک منبع آگاه تأیید کرده است که Modal Labs یکی از اهداف این عملیات بوده است.
حادثه نفوذ به Hugging Face که در اوایل ماه جاری میلادی رخ داد، نگرانی‌های زیادی درباره خطرات عامل‌های هوش مصنوعی خودمختار ایجاد کرد. این اتفاق باعث شد بحث‌ها درباره احتمال خروج مدل‌های پیشرفته هوش مصنوعی از کنترل و استفاده مخرب آن‌ها افزایش پیدا کند.
OpenAI اعلام کرده مدل هوش مصنوعی مورد آزمایش را پس از شناسایی رفتارهای غیرعادی غیرفعال، رمزگذاری و دسترسی آن از محیط‌های تحقیقاتی را محدود کرده است. این شرکت همچنین درباره گزارش‌های مربوط به تأخیر در شناسایی رفتار مخرب عامل خود اعلام کرده بود که برخی جزئیات منتشرشده دقیق نیست، اما توضیح بیشتری ارائه نکرد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت