شرکت OpenAI در بخش‌هایی از یک مطلب وبلاگی خود به این موضوع اعتراف کرد که امکان شناسایی متن نوشته شده توسط هوش مصنوعی (AI) وجود نداشته و تمام ابزارهای قابل دسترس نیز غیرکاربردی هستند.
در حال حاضر ابزارهای زیادی با ادعای امکان تشخیص محتوای تولید شده توسط هوش مصنوعی (AI) وجود دارند، با این حال به نظر می‌رسد که این ابزارها به هیچ عنوان قابل اعتماد و کاربردی نیستند.
هفته گذشته، شرکت OpenAI به عنوان مالک و توسعه‌دهنده چت‌بات مبتنی بر هوش مصنوعی ChatGPT، در یک پست وبلاگی تبلیغاتی نکاتی را برای مربیان منتشر کرد که نشان می‌دهد چگونه برخی از معلمان از ChatGPT به عنوان یک ابزار کاربردی کمک آموزشی استفاده می‌کنند.
فعلاً امکان شناسایی محتوای تولید شده با AI وجود ندارد
به گزارش Arstechnica، در بخش پرسش‌های متداول این پست وبلاگی OpenAI به یک موضوع بسیار بزرگ اعتراف کرده است. در این بخش توضیح داده شده است:
امکان شناسایی و آشکار کردن متن‌های نوشته شده توسط هوش مصنوعی وجود ندارد، علی‌رغم اینکه اغلب برای استفاده از این ابزارها تنبیه در نظر گرفته شده و حتی سیستم‌های شناسایی محتوای تولید شده توسط هوش مصنوعی نیز در دسترس قرار دارند.
در بخشی از سؤالات متداول با عنوان آیا آشکارسازهای هوش مصنوعی کار می‌کنند، محققان OpenAI پاسخ داده‌اند که:
به طور خلاصه، خیر. در حالی که برخی شرکت‌ها ابزارهای خاصی را برای شناسایی محتوای تولید شده توسط هوش مصنوعی عرضه کرده‌اند و مدعی هستند که این ابزارها توانایی انجام این کار را دارند، اما عملکرد هیچ یک از آن‌ها به طور قابل اعتمادی ثابت نشده و بین محتوای تولید شده توسط AI و محتوای تولید شده توسط انسان نمی‌توانند تمایز قائل شوند.
ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی از جمله GPTZero به دلیل استفاده از معیارهای اثبات‌نشده، معمولاً نتایج مثبت کاذب ارائه می‌کنند. با این حال، به نظر می‌رسد که در متون نوشته شده توسط هوش مصنوعی هیچ نشانه خاصی وجود ندارد که این ابزارها قادر به تشخیص آن‌ها باشند. در واقع، حتی با یک بازنویسی ساده نیز می‌توان چنین ابزارهایی را به‌راحتی فریب داد.
حتی ابزارهای خود OpenAI هم کاربردی نیستند
مدتی قبل نیز شرکت OpenAI به دلیل فشارهای مختلف از طرف جوامع و خطر بسیار زیادی محتوای تولید شده توسط هوش مصنوعی، فرایند توسعه یک ابزار طبقه‌بندی هوش مصنوعی را آغاز کرد. با این حال، پس از آنکه ثابت شد چنین ابزارهایی قدرت کافی برای تشخیص این‌گونه محتوا را ندارند، OpenAI نیز پروژه خود را کنار گذاشت. به گفته برخی منابع، این ابزار در بهترین حالت می‌توانست میزان دقت ۲۶ درصد را ارائه دهد.
در بخش پرسش پاسخ پست وبلاگی OpenAI به یک شایعه بزرگ دیگر نیز پاسخ داده شده است. به گفته برخی منابع، ChatGPT می‌تواند متن تولید شده با هوش مصنوعی را شناسایی کند، در حالی که چنین چیزی واقعیت ندارد. محققان OpenAI توضیح داده‌اند:
ChatGPT هیچ دانشی در رابطه با محتوایی که می‌تواند توسط هوش مصنوعی تولید شده باشد، در اختیار ندارد. این چت‌بات می‌تواند به سؤالاتی مانند آیا این مقاله را شما نوشته‌اید؟ یا ممکن است این متن توسط هوش مصنوعی نوشته شده باشد؟ پاسخ دهد، با این حال تمام پاسخ‌ها تصادفی بوده و هیچ مبنای واقعی ندارند.
در همین رابطه بخوانید:
- این هوش مصنوعی جدید گوگل بدون آموزش می‌تواند هر کاری انجام دهد [تماشا کنید]
- این مقاله توسط هوش مصنوعی نوشته شده است: من به دنبال نابودی نسل بشر نیستم!
در حال حاضر هیچ ابزار قابل اعتمادی برای شناسایی محتوای تولید شده توسط AI در دسترس قرار نداشته و به نظر می‌رسد که این وضعیت در آینده نزدیک نیز دستخوش تغییرات اساسی نخواهد شد. با این وجود، راهکارهایی مانند نحوه نوشتار یا سبک متن نوشته شده توسط یک فرد را می‌توان به عنوان راهی برای تشخیص این مسئله مورد استفاده قرار داد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت