نظر عجیب هوش مصنوعی متا: تیر خوردن ترامپ، واقعیت ندارد!

دستیار هوش‌مصنوعی متا به اشتباه درباره سوء قصد به جان رئیس جمهور سابق آمریکا می‌گوید که به سمت دونالد ترامپ تیراندازی نشده. اشتباهی که مدیران این شرکت آن را به ضعف‌های طبیعی فناوری مورد استفاده  چت بات‌ها نسبت می‌دهند. در ادامه با شهر سخت‌افزار همراه باشید تا جزئیات این خبر را بررسی کنیم.

چت‌بات هوش مصنوعی متا در جواب سوالی پیرامون حادثه تیراندازی به دونالد ترامپ در جریان کمپین انتخاباتی‌اش، پاسخ داده که تیراندازی در کار نبوده و فقط یک فرد 24 ساله تلاش کرده با عبور از موانع خود را به ترامپ برساند. همین کافی بود که خیل عظیمی از تئوری‌های توطئه شبکه‌های اجتماعی را فرا بگیرد و مدیران متا را مجبور به واکنش کند.

در همین رابطه بخوانید:

- سوتی جالب هوش مصنوعی Gemini: فرقی بین کیلوگرم و پوند وجود ندارد!
- چند درصد از مردم می‌دانند که ChatGPT چیست و می‌توانند از آن استفاده کنند؟

در پست وبلاگی که توسط Joel Kaplan، مدیر جهانی سیاست‌های متا، نوشته شده بود از این اتفاق به عنوان یک «بدشانسی» یاد شد. او اذعان داشت که Meta AI به گونه‌ای طراحی شده که اساساً به پرسش‌هایی از این جنس پاسخ ندهد اما این شرکت بعد از حساس شدن کاربران این محدودیت را برداشته است. او در ادامه گفت:

در موارد بسیار کمی، Meta AI به ارائه پاسخ‌های اشتباه ادامه داد که شامل اصرار بر غیر واقعی بودن این اتفاق هم می‌شد. البته ما به سرعت در حال برطرف کردن این مشکل هستیم. این نوع پاسخ‌های هوش مصنوعی، به عنوان توهم یا AI Hallucinations شناخته می‌شوند و از مشکلاتی است که در حال حاضر تمام مدل‌های هوش مصنوعی مولد با آن دست به گریبانند.

البته این تنها Meta نبوده که درباره این موضوع با هجمه مواجه شده است. گوگل هم طی روزهای گذشته مجبور شده درباره ویژگی Autocomplete موتور جستجوی این شرکت که ادعا شده بود تلاش دارد تیراندازی به ترامپ را سانسور کند توضیح دهد.

از زمان عرضه ChatGPT تا کنون، صنعت فناوری درگیر این مسئله بوده که چگونه می‌توان اشتباهات هوش مصنوعی مولد که با نام AI Hallucinations شناخته می‌شود را به حداقل رساند. بعضی از بازیگران این صنعت مثل Meta تلاش کرده‌اند با آموزش مدل‌های AI به وسیله داد‌ه‌های باکیفیت و استفاده از نتایج جستجوی آنلاین این مشکلات را کاهش دهند. اما همانگونه که این خبر نشان داد هنوز تا رسیدن به نقطه مطلوب فاصله زیادی داریم.