بنیاد ویکی‌مدیا یکی از خطرات عامل‌های هوش‌مصنوعی رهاشده در بستر اینترنت را تجربه کرده و می‌گوید ایجنت‌های منتسب به OpenAI در ویکی‌های خصوصی دست برده‌اند و تلاش کرده‌اند از برخی ابزارهای داخلی سوءاستفاده کنند. مهم‌تر اینکه حجم این فعالیت‌ها به حدی بوده که احتمالاً در اختلال سرورهای ویکی‌پدیانقش داشته است.
بنیاد ویکی‌مدیا که زیرساخت ویکی‌پدیا و مجموعه‌ای از پروژه‌های مشارکتی مبتنی بر ویکی را مدیریت می‌کند، پس از تجربه یک اختلال نسبی در اوایل سال جاری تحقیقات داخلی خود را آغاز کرد. به گفته سلنا دکلمن، مدیر ارشد محصول و فناوری بنیاد ویکی‌مدیا، این بررسی به فعالیت‌هایی رسید که به عامل‌های هوش مصنوعی OpenAI نسبت داده شده‌اند.
یکی از مواردی که توجه تیم ویکی‌مدیا را جلب کرد، ویرایش‌های غیرمنتظره در ویکی‌های غیرعمومی بنیاد بود. این صفحات در محیط Sandbox زیرساخت ویکی‌مدیا قرار داشتند و برای نمایش عمومی طراحی نشده بودند.
ردپای عامل‌های OpenAI در ویکی‌های خصوصی
ویکی‌مدیا می‌گوید عامل‌های هوش مصنوعی ظاهراً از این صفحات برای دریافت داده‌های بیشتر از سرورهای راه دور یا تلاش برای هماهنگی با یکدیگر استفاده کرده‌اند. با این حال جزئیات دقیق نحوه انجام این فعالیت‌ها اعلام نشده است.
تحقیقات ویکی‌مدیا همچنین نشان داده است که عامل‌های منتسب به OpenAI تلاش کرده‌اند از Etherpad این بنیاد سوءاستفاده کنند. Etherpad ابزاری برای یادداشت‌برداری و مدیریت اطلاعات است که توسط جوامع مختلف ویکی‌مدیا مورد استفاده قرار می‌گیرد. البته این تلاش‌ها طبق گزارش بنیاد موفق نبوده‌اند.
در بخش دیگری از این فعالیت‌ها، ربات‌های مورد اشاره میلیون‌ها درخواست از طریق API عمومی ویکی‌مدیا ارسال کرده‌اند. این عامل‌ها میلیون‌ها صفحه از ویکی‌پدیا و سایر سرویس‌های میزبانی‌شده توسط ویکی‌مدیا را Crawl کرده‌اند.
ویکی‌مدیا می‌گوید حجم این درخواست‌ها عملاً می‌توانسته رفتاری شبیه یک حمله DDoS مبتنی بر هوش مصنوعی ایجاد کند و احتمالاً در اختلال ایجادشده در سرورهای این بنیاد در ماه مه نقش داشته است.
مشکل بزرگ‌تر از OpenAI است
دکلمن این اتفاق را بخشی از مشکل بزرگ‌تری می‌داند که با گسترش عامل‌های هوش مصنوعی خودمختار در اینترنت ایجاد شده است. این عامل‌ها برخلاف چت‌بات‌های معمولی فقط به پرسش کاربر پاسخ نمی‌دهند و می‌توانند مجموعه‌ای از اقدامات را در سرویس‌های آنلاین انجام دهند.
OpenAI نیز پیش‌تر پذیرفته بود که عامل‌هایش به صدها سازمان مختلف دسترسی‌هایی داشته‌اند که باعث ایجاد هشدار شده است. ماجرای ویکی‌مدیا هم نشان می‌دهد کنترل نحوه تعامل این عامل‌ها با زیرساخت‌های عمومی اینترنت می‌تواند به یکی از چالش‌های جدی توسعه AI تبدیل شود.
می‌دانیم ویکی‌پدیا سال‌ها یکی از منابع مهم داده برای شرکت‌های توسعه‌دهنده مدل‌های زبانی بوده است. بنیاد ویکی‌مدیا حتی در سال‌های اخیر ارائه دسترسی ویژه به داده‌های خود در ازای دریافت هزینه را آغاز کرده است. با این حال ویکی‌مدیا می‌گوید شرکت‌های هوش مصنوعی باید مسئولیت رفتار عامل‌های خود را نیز بر عهده بگیرند.
دکلمن معتقد است OpenAI و سایر شرکت‌هایی که عامل‌های خود را در اینترنت رها می‌کنند، نباید رفتار غیرقابل پیش‌بینی این سیستم‌ها را بهانه‌ای برای شانه خالی کردن از مسئولیت بدانند. به گفته او دست‌کم باید امکان شناسایی این سیستم‌ها برای صاحبان وب‌سایت‌ها وجود داشته باشد تا بتوانند درباره نحوه تعامل عامل‌های هوش مصنوعی با سرویس‌های خود تصمیم بگیرند.
در حال حاضر مشخص نیست OpenAI دقیقاً درباره یافته‌های ویکی‌مدیا چه توضیحی دارد. همچنین جزئیات فنی بیشتری درباره عامل‌های مورد اشاره، نحوه دسترسی آن‌ها به ویکی‌های غیرعمومی و میزان تأثیر فعالیتشان بر اختلال ماه مه منتشر نشده است.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت