آیا چت با هوش مصنوعی می‌تواند روزی علیه کاربران در دادگاه استفاده شود؟

یک رأی تازه در دادگاهی در آمریکا، بحثی را باز کرده که احتمالاً فقط به ایالات متحده محدود نمی‌ماند؛ اینکه اگر کاربران اطلاعات حساس، شخصی یا حتی جزئیات پرونده‌های حقوقی خود را در چت‌بات‌هایی مثل ChatGPT یا Claude وارد کنند، ممکن است همان گفتگوها بعداً به مدرکی علیه آن‌ها تبدیل شود؟

بنابر گزارش Futurism به نقل از رویترز، در تازه‌ترین نمونه از پیامدهای استفاده گسترده از هوش مصنوعی، یک قاضی فدرال در نیویورک حکمی صادره کرده تا اسنادی که یک متهم با کمک چت‌بات Claude تهیه کرده، مشمول قاعده «محرمانگی میان وکیل و موکل» نیست و باید در اختیار دادگاه قرار بگیرد.

این تصمیم، برای نخستین بار به‌صورت صریح نشان می‌دهد که از نگاه دستگاه قضایی آمریکا، گفتگو با یک هوش مصنوعی معادل گفتگو با وکیل یا فضای خصوصی نیست و در صورت درخواست می‌تواند در اختیار دستگاه قضا قرار گیرد.

ماجرا از کجا شروع شد؟

پرونده مربوط به «بردلی هپنر»، مدیر سابق یک شرکت مالی آمریکایی است که با اتهاماتی مانند کلاهبرداری مالی و تقلب روبه‌رو شده است. او برای آماده‌سازی دفاعیات خود، بخشی از اطلاعات و گفتگوهایش با وکلا را وارد Claude کرده و از این چت‌بات خواسته گزارش‌ها و سناریوهای دفاعی احتمالی را تنظیم کند.

رویترز در گزارش خود از این اتفاق می‌گوید که پیرو این احتمال، دادگاه تشخیص داده که به «علت قرار دادن این اسناد در اختیار یک سرویس ثالث (که اینجا هوش مصنوعی کلادی است)» دیگر این اسناد مشمول قاعده محرمانگی نیستند. در نتیجه، ۳۱ سندی که با کمک Claude ساخته شده بود، باید به دادستانی تحویل داده شود.

قاضی پرونده، Jed Rakoff، در رأی خود نوشته است که «هیچ رابطه وکیل-موکلی میان کاربر و یک پلتفرم هوش مصنوعی مانند Claude وجود ندارد و اساساً هم نمی‌تواند وجود داشته باشد.» او همچنین به این نکته اشاره کرده که خود Claude در پاسخ به پرسش‌های حقوقی، صریحاً اعلام می‌کند وکیل نیست و نمی‌تواند مشاوره حقوقی رسمی ارائه دهد.

چرا این رأی اهمیت دارد؟

تا پیش از این، بسیاری از کاربران تصور می‌کردند گفتگو با چت‌بات‌ها دست‌کم در حد یک یادداشت شخصی یا گفتگوی خصوصی باقی می‌ماند. اما رأی جدید نشان می‌دهد دادگاه‌ها ممکن است این گفتگوها را مشابه ارسال اطلاعات به یک شرکت ثالث ببینند؛ یعنی همان‌طور که ایمیل، پیام‌رسان یا فایل ذخیره‌شده در فضای ابری می‌تواند با حکم قضایی در اختیار نهادهای دولتی قرار گیرد، محتوای گفتگو با هوش مصنوعی هم ممکن است قابل دسترسی باشد.

از دید تخصصی باید گفت که این موضوع فقط به پرونده‌های حقوقی محدود نیست. برخی حقوقدانان آمریکایی هشدار داده‌اند اگر فردی درباره مسائل مالی، اختلافات کاری، برنامه‌های تجاری، یا حتی جزئیات یک تخلف احتمالی با هوش مصنوعی صحبت کند، ممکن است بعدها همان گفتگوها در روند رسیدگی قضایی یا تحقیقات رسمی علیه او استفاده شوند.

شرکت‌ها قبلاً هم اطلاعات کاربران را در اختیار دولت‌ها می‌گذاشتند

این اتفاق در واقع ادامه همان روندی است که سال‌ها درباره شرکت‌های فناوری وجود داشته است. در آمریکا، سرویس‌هایی مانند دوربین‌های خانگی، شبکه‌های اجتماعی، موتورهای جستجو و حتی برخی پیام‌رسان‌ها در مواردی با حکم قضایی یا درخواست دولت، داده‌های کاربران را ارائه کرده‌اند.

تفاوت اصلی اینجاست که چت‌بات‌ها معمولاً بسیار شخصی‌تر هستند. بسیاری از کاربران، بدون توجه به سیاست‌های حریم خصوصی، جزئی‌ترین اطلاعات ذهنی، مشکلات شخصی، برنامه‌های کاری یا حتی موضوعات محرمانه را با این ابزارها در میان می‌گذارند.

رأی اخیر نشان می‌دهد، در صورت نیاز نهادهای قضایی و امنیتی، اطلاعات می‌تواند به یک منبع جدید برای بررسی پرونده‌های مورد بررسی تبدیل شود.

آیا ممکن است روزی در ایران هم شاهد استناد به چت با AI در دادگاه باشیم؟

فعلاً هیچ قانون یا سابقه مشخصی در ایران وجود ندارد که به‌طور مستقیم به استفاده از گفتگوهای کاربران با هوش مصنوعی در دادگاه‌ها اشاره کند. با این حال، کارشناسان حقوقی معتقدند اگر روزی این سرویس‌ها به‌صورت گسترده‌تر در ایران استفاده شوند، احتمالاً رویه‌ای مشابه سایر کشورها شکل خواهد گرفت.

در بسیاری از نظام‌های حقوقی، از جمله ایران، اصل کلی این است که هر داده‌ای که نزد یک شرکت یا سرویس ثالث ذخیره شده باشد، در شرایط خاص می‌تواند موضوع درخواست قضایی قرار بگیرد.

اگر چت‌بات‌ها در آینده توسط شرکت‌های داخلی یا خارجی در اختیار کاربران ایرانی قرار گیرند، بعید نیست گفتگوهای ذخیره‌شده نیز در برخی پرونده‌ها به‌عنوان «مستند» یا «قرینه» مورد استناد قرار بگیرند؛ به‌خصوص اگر اطلاعات در سرورهای شرکت ارائه‌دهنده باقی مانده باشد.

به بیان دیگر، شاید هنوز در ایران چنین پرونده‌ای شکل نگرفته باشد، اما تجربه آمریکا نشان می‌دهد چت با هوش مصنوعی لزوماً به معنای یک گفتگوی کاملاً خصوصی نیست؛ مخصوصاً وقتی کاربر، اطلاعات حساس یا جزئیات پرونده‌های حقوقی و مالی خود را وارد این سرویس‌ها می‌کند.

یک هشدار برای کاربران

بعد از انتشار این رأی، برخی شرکت‌های حقوقی در آمریکا قراردادهای خود را به‌روزرسانی کرده‌اند و به موکلان هشدار می‌دهند که وارد کردن اطلاعات محرمانه در ChatGPT یا Claude ممکن است باعث از بین رفتن محرمانگی حقوقی شود.

حتی برخی وکلا توصیه کرده‌اند کاربران برای موضوعات حساس، فقط از نسخه‌های سازمانی و محدودشده این ابزارها استفاده کنند؛ نسخه‌هایی که داده‌ها را برای آموزش مدل ذخیره نمی‌کنند یا دسترسی شرکت به آن‌ها محدودتر است.