اگر متنی را از ChatGPT کپی کنید، در ظاهر هیچ تفاوتی با یک متن معمولی نخواهد داشت؛ نه علامتی در آن دیده می‌شود، نه کاراکتر مخفی به انتهای جمله‌ها اضافه شده و نه فونت یا فاصله‌ای تغییر می‌کند. با این حال، OpenAI در حال اضافه کردن فناوری جدیدی است که می‌تواند ردپایی آماری و نامرئی در نحوه انتخاب کلمات متن تولیدشده توسط مدل ایجاد کند؛ ردپایی که یک آشکارساز مخصوص می‌تواند بعداً به دنبال آن بگردد.
OpenAI این فناوری را textGrain نامیده و قرار است طی هفته‌های آینده آن را برای خروجی متنی کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال کند. این تصمیم بخشی از تلاش OpenAI برای رعایت الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) درباره قابل‌شناسایی بودن محتوای تولیدشده توسط هوش مصنوعی است.
اما برخلاف چیزی که از واژه «واترمارک» ممکن است تصور شود، OpenAI قرار نیست چیزی به متن اضافه کند. در واقع واترمارک در خود فرایند تولید متن پنهان می‌شود.
امضایی که در انتخاب کلمات پنهان می‌شود
مدل‌های زبانی بزرگ (LLM) هنگام تولید متن، جمله را کلمه‌به‌کلمه یا دقیق‌تر بگوییم توکن‌به‌توکن می‌سازند. در هر مرحله، مدل برای توکن بعدی مجموعه‌ای از گزینه‌ها را با احتمال‌های متفاوت در نظر می‌گیرد و یکی از آنها را انتخاب می‌کند. textGrain از همین مرحله استفاده می‌کند.
بر اساس توضیحات OpenAI، این سیستم با استفاده از یک کلید مخفی (Secret Key)، توزیع احتمال انتخاب توکن‌های بعدی را به شکل کنترل‌شده تغییر می‌دهد. این تغییر آن‌قدر ظریف است که قرار نیست کیفیت یا معنای متن برای کاربر تغییر محسوسی کند، اما در تعداد زیادی انتخاب متوالی، یک الگوی آماری قابل تشخیص ایجاد می‌شود. آشکارساز OpenAI نیز با در اختیار داشتن کلید و تنظیمات مربوطه بررسی می‌کند که آیا چنین الگویی در متن بیشتر از چیزی که به‌طور تصادفی انتظار می‌رود، دیده می‌شود یا نه.
بنابراین اگر بخواهیم ساده بگوییم، OpenAI روی متن نمی‌نویسد «ساخته‌شده توسط ChatGPT»؛ بلکه کاری می‌کند شیوه انتخاب کلمات مدل یک امضای آماری مخصوص داشته باشد.
چرا OpenAI سراغ چنین روشی رفته است؟
قانون AI اتحادیه اروپا ارائه‌دهندگان مدل‌های هوش مصنوعی مولد را به سمت ایجاد سازوکارهایی برای قابل‌شناسایی بودن محتوای تولیدشده توسط AI برای سیستم‌های دیگر سوق داده است. به همین دلیل، OpenAI اکنون textGrain را به‌عنوان راهکار خود برای ایجاد یک سیگنال منشأ محتوا در متن معرفی کرده است.
در فاز نخست، این قابلیت برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا عرضه می‌شود و OpenAI فعلاً قصد ندارد آن را در زمان آغاز عرضه به‌صورت پیش‌فرض برای تمام کاربران جهان فعال کند.
برای توسعه‌دهندگان API، وضعیت کمی متفاوت است. OpenAI اعلام کرده مشتریان API در سراسر جهان می‌توانند برای برخی مدل‌های پشتیبانی‌شده، به‌صورت اختیاری (Opt-in) واترمارک متنی را فعال کنند؛ این قابلیت در API به‌صورت پیش‌فرض خاموش باقی می‌ماند.
واترمارک AI-Generated را نمی‌توان با چشم دید
یکی از نکات مهم textGrain این است که با روش‌هایی مانند افزودن فاصله‌های خاص، کاراکترهای Unicode نامرئی یا توکن‌های اضافی کار نمی‌کند.
OpenAI صراحتاً می‌گوید این فناوری هیچ کاراکتر مخفی یا توکن مخصوص واترمارک به متن اضافه نمی‌کند. سیگنال در همان الگوی انتخاب کلمات و قطعات کلمه‌ها یا توکن‌ها قرار می‌گیرد. بنابراین کپی و Paste کردن متن، به‌خودی‌خود چیزی را از بین نمی‌برد یا چیزی به آن اضافه نمی‌کند.
این تفاوت مهم است؛ چون در روش‌های مبتنی بر کاراکتر مخفی، کافی است متن از یک ویرایشگر یا سرویس دیگر عبور کند تا احتمالاً آن نشانه‌ها از بین بروند. در textGrain، سیگنال بخشی از الگوی زبانی خود متن است.
اما آیا حالا می‌توان فهمید چه متنی را ChatGPT نوشته است؟
OpenAI خودش تأکید کرده که textGrain یک سیستم تشخیص قطعی محتوای تولیدشده توسط AI نیست. آشکارساز ممکن است گاهی واترمارکی را تشخیص ندهد، در حالی که متن واقعاً توسط یک مدل OpenAI تولید شده است. از طرف دیگر، سیستم‌های تشخیص نیز باید احتمال False Positive یا تشخیص اشتباه را در نظر بگیرند.
طول متن نیز اهمیت زیادی دارد. هرچه متن کوتاه‌تر باشد، داده آماری کمتری برای شناسایی الگوی موردنظر وجود دارد. متن‌هایی که آزادی کمتری برای انتخاب واژه دارند نیز مشکل مشابهی ایجاد می‌کنند؛ برای مثال پاسخ‌های دقیق ریاضی یا بخش‌هایی از کد، گزینه‌های کمتری برای تغییر انتخاب توکن در اختیار مدل قرار می‌دهند. به همین دلیل، پیدا نشدن واترمارک به معنی اثبات انسانی بودن متن نیست.
ویرایش متن می‌تواند ردپای AI را کم‌رنگ کند
واترمارک textGrain به انتخاب کلمات مدل وابسته است. اگر کاربر متن را به اندازه کافی بازنویسی یا Paraphrase کند، بخشی از همان الگوی آماری تغییر می‌کند و تشخیص دشوارتر می‌شود.
آزمایش‌های OpenAI نیز همین مسئله را نشان داده‌اند. برای نمونه، در یک آزمایش روی متن‌های ۴۰۰ توکنی، جایگزین کردن حدود ۱۰ درصد کلمات با مترادف‌ها، نرخ تشخیص واترمارک را از حدود ۹۲ درصد به ۶۶ درصد کاهش داده و با جایگزینی ۲۵ درصد کلمات، این نرخ به حدود ۱۷ درصد رسیده است.
بنابراین textGrain را نباید با یک امضای دیجیتال تغییرناپذیر اشتباه گرفت. هرچه متن بیشتر از خروجی خام مدل فاصله بگیرد، سیگنال نیز می‌تواند ضعیف‌تر شود.
باید در نظر داشته باشید که واترمارک منشأ احتمالی متن را نشان می‌دهد، نه هویت نویسنده را.
OpenAI فعلاً آشکارساز را عمومی نمی‌کند
یک نکته جالب دیگر این است که هم‌زمان با آغاز واترمارک‌گذاری، OpenAI ابزار تشخیص آن را برای عموم منتشر نکرده است.
این شرکت دسترسی به آشکارساز textGrain را فعلاً به پژوهشگران و سازمان‌های تخصصی تأییدشده محدود کرده تا عملکرد سیستم در دنیای واقعی بررسی شود. یکی از دلایل این تصمیم، همان احتمال خطای مثبت و منفی در تشخیص است.
به این ترتیب، فعلاً قرار نیست سایتی رسمی وجود داشته باشد که هر کاربر بتواند یک متن را در آن وارد کند و پاسخ قطعی «این متن را ChatGPT نوشته / ننوشته» بگیرد.
OpenAI می‌گوید می‌خواهد با دریافت بازخورد از پژوهشگران و بررسی عملکرد فناوری، textGrain را توسعه دهد و در نهایت این فناوری را نیز به شکل Open Source در اختیار جامعه قرار دهد.
پیشرفت AI در اثبات منشأ محتوای AI
واترمارک متنی در واقع ادامه مسیری است که OpenAI پیش‌تر برای تصاویر و صوت دنبال کرده بود؛ مسیری که در آن Provenance یا «منشأ محتوا» اهمیت پیدا می‌کند.
برای تصاویر، OpenAI از ترکیب C2PA Content Credentials و واترمارک‌هایی مانند SynthID استفاده می‌کند. C2PA اطلاعات منشأ را در قالب Metadata حمل می‌کند، در حالی که واترمارک سیگنالی را مستقیماً در خود محتوا قرار می‌دهد. OpenAI نیز تأکید دارد که هیچ روش واحدی برای اثبات منشأ محتوا کاملاً بی‌نقص نیست و بهتر است چند لایه مختلف در کنار یکدیگر استفاده شوند.
textGrain همین ایده را به دنیای متن می‌آورد؛ با این تفاوت که متن از تصویر بسیار راحت‌تر قابل ویرایش، بازنویسی، ترجمه و تغییر است. همین مسئله، طراحی یک واترمارک پایدار برای LLMها را به مسئله‌ای پیچیده‌تر تبدیل می‌کند.
در نهایت، اتفاقی که برای کاربران اروپایی ChatGPT در حال رخ دادن است، بیشتر از آنکه به معنای ظهور یک «دستگاه تشخیص هوش مصنوعی» باشد، نشان‌دهنده تغییر مهم‌تری است: خروجی مدل‌های زبانی به‌تدریج از یک متن بدون شناسنامه به محتوایی با سیگنال منشأ تبدیل می‌شود.
ممکن است کاربر هیچ تفاوتی میان دو متن نبیند؛ اما در پس‌زمینه، یکی از آنها می‌تواند الگویی داشته باشد که یک ماشین بتواند آن را به خروجی یک مدل OpenAI نسبت دهد. این همان مرزی است که حالا با textGrain در حال شکل گرفتن است.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت