گزارش‌های نوشته شده توسط هوش مصنوعی، می‌تواند شما را روانه زندان کند!

مدل هوش مصنوعی «Draft One» قرار است با تحلیل اطلاعات دوربین و میکروفون‌ نصب شده روی یونیفرم پلیس، به ماموران در نوشتن گزارش‌های ماموریت کمک کند. سوال اینجاست که اینگونه گزارش‌ها می‌‌توانند مورد استناد قرار بگیرند و برای محکوم کردن متهم‌ها در دادگاه استفاده شوند؟

به گزارش Forbes، شرکت آمریکایی Axon که در ساخت تجهیزات پلیس فعال است، به تازگی از یک مدل هوش مصنوعی مبتنی بر GPT 4 شرکت OpenAI با نام «Draft One» پرده برداشته که می‌تواند گزارش‌های روزانه ماموران پلیس را با بررسی فیلم‌‌ و صدای ضبط شده از ماموریت بنویسد. Axon این مدل هوش مصنوعی را به عنوان یک «ابزار بهره‌وری» معرفی می‌کند:

ماموران پلیس نیمی از وقت خود را صرف نوشتن گزارش می‌کنند، ما میخواهیم این زمان را به نصف مقدار فعلی کاهش دهیم. این فرصت را داریم که ۲۵ درصد از وقت روزانه ماموران را آزاد کنیم.

گزارش‌‌های پلیس می‌توانند در دادگاه مورد استناد قرار بگیرند و به همین دلیل صحت آنها اهمیت زیادی دارد. اکنون این نگرانی وجود دارد که استفاده از هوش مصنوعی مولد در نوشتن گزارش‌‌های پلیس، چه تأثیری روی اعتبار آن می‌‌گذارد. به خصوص آنکه مدل‌های هوش مصنوعی مولد فعلی به داشتن اشتباهات فاحش در محتوایی که تولید می‌‌کنند مشهور هستند. مشکلی که به نام «توهم هوش مصنوعی» یا «AI Hallucination» شناخته می‌‌شود.

با وجود این نگرانی‌ها، دپارتمان‌‌های پلیس در بعضی ایالت‌های آمریکا در حال آزمایش Draft One هستند و در بعضی دپارتمان‌ها به ماموران اجازه استفاده از هوش مصنوعی برای تهیه گزارش‌‌های مربوط به تمام انواع پروند‌ه‌‌ها داده شده است.

«اندرو فرگوسن»، استاد تمام رشته حقوق در این باره می‌‌گوید:

من نسبت به خودکار سازی و سادگی استفاده از این فناوری نگرانم. این ابزار می‌تواند باعث شود ماموران گزارش‌‌ها را با دقت کافی ننویسند.

سطح دسترسی بالاتر به ChatGPT

اکسون اما با اشاره به بهره‌وری Draft One از آن دفاع می‌‌کند. به گفته مدیر محصولات هوش مصنوعی اکسون، «Noah Spitzer-Williams»، این شرکت نسبت به کاربران معمولی، دسترسی بیشتری به تنظیمات ChatGPT دارد و به عنوان مثال میزان «خلاقیت» چت جی پی تی را کاهش داده تا اشتباهات این مدل را به حداقل برساند.

به گفته ویلیامز، گزارش‌های تولید شده توسط هوش مصنوعی تمامی تغییراتی که کاربر در آنها اعمال می‌کنند را نگه می‌‌دارد تا بررسی صحت اطلاعات موجود در گزارش‌‌های قابل راستی‌آزمایی باشد.

در همین رابطه بخوانید:

- نظر عجیب هوش مصنوعی متا: تیر خوردن ترامپ، واقعیت ندارد!
- آینده‌ای که برایش آماده نیستیم: هکرهای هوش مصنوعی
- هوش مصنوعی جامع (AGI) چیست و چرا باید نگران آن باشیم؟

انسان‌‌ها نیز، مثل هوش مصنوعی، اشتباهات زیادی مرتکب می‌‌شوند اما فارغ از میزان خطای ابزارهای مشابه Draft One، این سوال پیش می‌‌آید که اساساً باید به هوش مصنوعی اجازه دخالت در سیستم‌‌هایی قضایی داده شود؟ به نظر می‌رسد این سوالی است که با پیشرفت روز افزون هوش مصنوعی باید دیر یا زود به آن پاسخ دهیم.

نظر شما درباره استفاده از هوش مصنوعی برای حل کردن پرونده‌‌های جنایی چیست؟