در موارد زیادی بدون اجازه از تصاویر، کتاب‌ها و محتواهای مختلف برای آموزش به AI استفاده می‌شود که با نارضایتی صاحبان آنها همراه است. خبر خوب اینکه با یک ابزار جدید به نام Nightshade می‌توان تصاویر را مسموم کرد تا به مدل‌های هوش مصنوعی آسیب برساند.
احتمالاً می دانید مدل‌های هوش مصنوعی مولد با بهره گیری از کتاب‌ها، محتواهای اینترنت، تصاویر و ویدئوها آموزش می‌بینند تا به توانایی مورد نظر سازنده دست پیدا کنند که درست همانند آموزش یک انسان است. مشکل اینجاست که سازندگان بدون اجازه از محتواهای مختلف استفاده می‌کنند که از کتاب گرفته تا عکس‌های موجود بر روی اینترنت را شامل می‌شود.
معرفی برنامه Nightshade برای محافظت از تصاویر هنری
Nightshade اسم یک ابزار است که اولین بار در اکتبر 2023 معرفی شد و توسط پژوهشگرهای دانشگاه شیکاگو ساخته شده است. این ابزار دفاعی یک کارکرد ساده دارد و آن جلوگیری از استفاده غیر مجاز از عکس‌ها و تصاویر هنری توسط مدل‌های هوش مصنوعی است. این برنامه تغییرات هدفمند و پیچیده‌ای را بر روی تصاویر اعمال می‌کند که تقریباً توسط چشم انسان قابل دیدن نیست اما مدل‌های AI را مسموم می‌کند.
با وجود توانایی Nightshade در مسموم کردن مدل‌های هوش مصنوعی، این ابزار قرار نیست صنعت AI را زمین بزند.
Nightshade به گونه‌ای تصاویر را دست‌کاری می‌کند که به شکلی متفاوت از چشم انسان توسط هوش مصنوعی دیده شوند و اگر توسط مدل AI برای یادگیری مورد استفاده قرار بگیرند، مسموم می‌شوند. در این تصاویر اطلاعات و الگوهای ویژه‌ای تعبیه می‌شود که باعث می‌شود تحلیل آنها وسط AI به درک متفاوتی از تصویر منجر شود و اگر مدل AI با چنین تصاویری آموزش ببینید، به رفتارهای پیش بینی نشده می‌انجامد.
همچنین اگر تصاویر محافظت شده توسط Nightshade برای هرگونه بهره برداری در اختیار مدل‌های هوش مصنوعی قرار بگیرد، آنها قادر به درک تصویر واقعی نخواهند بود که روش خوبی برای کپی رایت به نظر می‌رسد.
برای نمونه اگر یک مدل هوش مصنوعی با تصاویر مسموم شده توسط Nightshade آموزش دیده باشد و از آن بخواهید تصویر یک سگ را تولید کند، ممکن است تصویر یک گربه را تحویل شما بدهد! به این ترتیب تمایل توسعه دهندگان برای استفاده غیرمجاز از تصاویر کاهش می‌یابد و می‌بایست تصاویر رایگان یا خریداری شده را ترجیح بدهند.
این ابزار به گونه‌ای تصاویر را دست‌کاری می‌کند که تصویری از یک گاو در علفزار می‌تواند توسط AI به عنوان یک کیف چرمی رها شده در علف‌ها دیده شود و اگر تعداد زیادی از این تصاویر سمی در اختیار مدل قرار بگیرد، ممکن است در آینده به جای گاو، کیف چرمی ترسیم کند!
خوشبختانه تصاویر دست‌کاری شده توسط Nightshade در دست‌کاری های معمول نظیر برش، فشرده سازی، کاهش نویز و نظیر آنها مشکلی ایجاد نمی‌کنند و تفاوت آنها با نسخه اصلی تقریباً توسط چشم انسان قابل تشخیص نیست.
اولین نسخه همگانی برنامه Nightshade را می‌توانید از اینجا دانلود کنید. نسخه ویندوز این برنامه حدود 2.5 گیگابایت حجم دارد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت