تشخیص محتوای ساخته‌شده با هوش مصنوعی هر روز دشوارتر می‌شود و دیگر نمی‌توان همیشه از روی ظاهر یک تصویر یا ویدئو درباره منشأ آن قضاوت کرد. گوگل حالا ابزار SynthID Detector را عمومی کرده تا کاربران بتوانند بررسی کنند یک فایل دارای نشانه دیجیتال مربوط به محتوای تولیدشده با هوش مصنوعی هست یا خیر.
این روزها آنقدر ابزارهای تولید محتوای هوش مصنوعی پیشرفت کرده‌اند که شاید گاهی اوقات واقعاً تشخیص محتوای اصیل و واقعی از محتوای تولید شده با AI ممکن نباشد. ابزارهای زیادی مدعی قابلیت شناسایی محتواهای تولید شده با هوش مصنوعی هستند ولی اینکه یک ابزار با پشتیبانی رسمی شرکتی که خود تولیدکننده این محتواست می‌تواند بسیار کارآمد باشد.
در همین شرکت گوگل ابزاری موسوم به SynthID را به صورت عمومی عرضه کرده که قابلیت‌های سطح بالای شناسایی محتوای با ردپای هوش مصنوعی را در اختیار کاربران قرار می‌دهد.
این ابزار که پیش‌تر در اختیار گروه محدودی از پژوهشگران و متخصصان رسانه قرار داشت، اکنون در اختیار عموم قرار گرفته و می‌تواند تصویر، ویدئو و فایل صوتی را بررسی کند. SynthID به جای تحلیل ظاهری محتوا، به دنبال یک واترمارک نامرئی می‌گردد که هنگام تولید محتوا در آن قرار گرفته است. این واترمارک برای مقاومت در برابر تغییراتی مانند فشرده‌سازی، برش و برخی ویرایش‌های رایج طراحی شده است.
SynthID دیگر فقط برای محصولات گوگل نیست
نکته مهم‌تر این خبر، گسترش SynthID خارج از اکوسیستم گوگل است. این شرکت اعلام کرده Detector می‌تواند محتوای دارای SynthID از OpenAI، NVIDIA و Kakao را نیز شناسایی کند و پشتیبانی از Apple نیز در آینده اضافه خواهد شد.
OpenAI نیز از SynthID برای برخی محتوای تولیدشده با ابزارهای خود استفاده می‌کند و آن را در کنار استاندارد C2PA برای ثبت منشأ محتوا به کار گرفته است. به این ترتیب، SynthID در حال تبدیل شدن به یک فناوری مشترک میان بخشی از سازندگان بزرگ هوش مصنوعی است، نه صرفاً یک ابزار داخلی گوگل.
گوگل می‌گوید از زمان معرفی SynthID در سال ۲۰۲۳ تاکنون، بیش از ۱۸۰ میلیارد تصویر و ویدئو و حدود ۲۴۰ هزار سال محتوای صوتی با این فناوری واترمارک شده‌اند.
اگر SynthID چیزی پیدا نکند، محتوا لزوماً واقعی نیست
با وجود نام Detector، این سرویس ابزار تشخیص تمام محتوای تولیدشده با AI نیست. SynthID فقط می‌تواند واترمارک‌های سازگار با این فناوری را پیدا کند. بنابراین اگر تصویری با مدلی تولید شده باشد که از SynthID استفاده نمی‌کند، نتیجه منفی به معنی انسانی بودن آن نیست.
در واقع، رویکرد گوگل بیشتر به سمت احراز منشأ محتوا است تا حدس زدن درباره آن از روی ظاهر. در کنار SynthID، استانداردهایی مانند C2PA نیز تلاش می‌کنند اطلاعات مربوط به نحوه تولید و ویرایش فایل‌ها را قابل بررسی کنند.
عمومی شدن SynthID Detector را می‌توان بخشی از تلاش صنعت هوش مصنوعی برای حل یک مشکل رو به رشد دانست: در دنیایی که تشخیص محتوای مصنوعی با چشم روزبه‌روز سخت‌تر می‌شود، به‌جای تشخیص صرفاً از روی خروجی، باید ردپای تولید محتوا را از همان ابتدا ثبت کرد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت