هشدار برای شما که به توصیه‌های هوش مصنوعی اعتماد می‌کنید؛ این کشاورز بیچاره شد

اگر شما هم جزو آن دسته از افرادی هستید که توصیه‌های هوش مصنوعی را سریع انجام می‌دهید، این ماجرا می‌تواند یک زنگ هشدار جدی برای شما باشد. گزارش‌ها حاکی از ضرر هنگفت یک کشاورز چینی بر اثر عمل کردن به توصیه هوش مصنوعی است. پیشنهاد می‌کنیم این خبر را بخوانید.

یک کشاورز ۶۷ ساله در چین پس از ماه‌ها دریافت توصیه‌های مفید از یک ابزار هوش مصنوعی، این بار برای مبارزه با علف‌های هرز و آفات به سراغ همان ابزار رفت و به توصیه‌های آن عمل کرد. نکته تلخ ماجرا اینجاست که ترکیب پیشنهادی هوش مصنوعی باعث شد تمام محصول کنجد او از بین برود.

یک نسخه اشتباه برای نابودی علف‌های هرز

بر اساس گزارش TechSpot، این کشاورز اهل شهر چوتشو در چین حدود یک سال از هوش مصنوعی برای دریافت راهنمایی‌های کشاورزی استفاده می‌کرد. او که در ابتدا به پاسخ‌های AI اعتماد نداشت، پس از مشاهده نتایج مثبت توصیه‌های قبلی به‌تدریج به آن اطمینان پیدا کرد.

کشاورز این بار از هوش مصنوعی درباره روش مقابله با علف‌های هرز و آفات مزارع کنجد سؤال کرد. ابزار هوش مصنوعی نیز ترکیبی از چند ماده شیمیایی را پیشنهاد داد و کشاورز همان توصیه را در مزرعه خود اجرا کرد.

مشکل از همین‌جا آغاز شد. تنها یک روز پس از سم‌پاشی نه‌تنها علف‌های هرز، بلکه بوته‌های کنجد نیز به‌سرعت شروع به خشک شدن و از بین رفتن کردند. و در مجموع محصول حدود 10 هکتار زمین زیر کشت از بین رفت.

کارشناسان کشاورزی بعداً با بررسی ماجرا اعلام کردند یکی از سموم پیشنهادی هوش مصنوعی به این کشاورز، علف‌کشی است که عمدتاً برای مقابله با علف‌های هرز پهن‌برگ در مزارع سویا استفاده می‌شود. خود کنجد نیز یک گیاه پهن‌برگ است و در نتیجه می‌تواند به این ماده حساس باشد. علاوه بر این، ترکیب مزبور برای استفاده محدود روی مناطق آلوده طراحی شده و استفاده گسترده از آن در کل مزرعه می‌تواند به محصول اصلی نیز آسیب بزند.

نکته عجیب‌تر اینکه وقتی کشاورز پس از مشاهده خسارت دوباره از هوش مصنوعی درباره علت ماجرا سؤال کرد، این ابزار یکی از مواد شیمیایی پیشنهادی خود را به‌عنوان عامل احتمالی مرگ گیاهان معرفی کرد!

وقتی پاسخ‌های درست، اعتماد خطرناک می‌سازند

تجربه نگارنده از کار با ChatGPT نشان می‌دهد وقتی یک چت طولانی می‌شود، هوش مصنوعی به دلیل محدودیت‌های نسخه رایگان جزئیاتی که روی آنها حتی تاکید شده است را نادیده می‌گیرد و اصلاً مهم نیست که آن جزئیات چقدر مهم یا تعیین کننده باشد. برای نمونه اگر در جایی از همان چت مربوط به مبارزه با علف هرز کنجد تاکید شود که بوته‌ها بالغ و برگ‌ها پهن شده‌اند، ممکن است هوش مصنوعی آن قسمت را به خاطر نیاورد و فقط موضوع کلی‌تر امکان استفاده از یک سم برای کنجد را ببیند.

در چنین سناریویی دیگر هوش مصنوعی به این نکته توجه نمی‌کند که مصرف سم پس از بزرگ شدن برگ‌ها منع دارد و فقط وجود کنجد در کاربردهای شناخته شده سم را در نظر می‌گیرد که خسارت‌بار خواهد بود. بنابراین باید حواستان باشد که در مسائل پیچیده و پر جزئیات، لازم است توصیه‌های هوش مصنوعی را به روش‌های دیگر راستی آزمایی کنید و فرقی نمی‌کند که موضوع کشاورزی یا سلامتی باشد.

یکی از روش‌های خوب بررسی صحت جواب‌های هوش مصنوعی، پرسیدن از یک چت‌بات دیگر است. برای نمونه می‌توانید پاسخ ارائه شده توسط ChatGPT را به Gemini بدهید و از آن بخواهید تا درست بودن پاسخ یا توصیه را دابل چک کند.