پیشرفت قابلیت‌های هوش مصنوعی به همان اندازه که برای انسان‌ها سودمند است، می‌تواند خطراتی را به همراه داشته باشد. در واقع ارسال تصاویر در شبکه‌های اجتماعی می‌تواند با خطر جعل و دستکاری توسط هوش مصنوعی همراه باشد و گاه این تصاویر جعلی می‌تواند عواقب جبران ناپذیری را برای کاربران در پی داشته باشد. اما گروهی از مهندسان دانشگاه MIT از تکنیک جدیدی به نام PhotoGuard پرده برداشتند که امکان جعل تصاویر توسط هوش مصنوعی را ناممکن می‌کند.
با وجود پیشرفت در قابلیت‌های هوش مصنوعی، ارسال تصاویر در شبکه‌های اجتماعی با خطر جعل و دستکاری همراه است. با استفاده از هوش مصنوعی می‌توان با تغییر تصاویر، اطلاعات نادرست و فریبنده به کاربران داد و حتی هویت افراد را سرقت کرد.
فریب هوش مصنوعی با PhotoGuard
البته روش‌های محافظتی مانند ایجاد واترمارک روی تصاویر یا ارسال تصاویر با وضوح کمتر وجود دارد اما همه اینها در مقابل پیشرفت هوش مصنوعی راه به جایی نخواهند برد. اینجاست که تکنیک‌های فریب هوش مصنوعی کارساز خواهد بود.
در همین رابطه مهندسان علوم کامپیوتر دانشگاه MIT یک روش جدیدی برای مقابله با جعل تصاویر توسط هوش مصنوعی ابداع کرده‌اند. تکنیک PhotoGuard برخلاف واترمارک معمولی، پیکسل‌های خاصی را در یک تصویر تغییر داده و الگوریتم‌های هوش مصنوعی را گیج می‌کند. البته این تغییرات در تصویر کاملاً نامحسوس بوده و به چشم نمی‌آید.
این تکنیک مدل‌های هوش مصنوعی را فریب می‌دهد تا درک درستی از تصاویر نداشته باشند و حتی PhotoGuard در مراحل پیشرفته‌تر به قدری هوش مصنوعی را گیج می‌کند که تصویر دیگری غیر از آنچه که ما می‌بینیم را تصور می‌کند.
البته هیچ راه حلی بدون خطا نبوده و PhotoGuard نیز محدودیت های خاص خود را دارد و می‌توان با اضافه کردن نویز دیجیتال یا استفاده از ترفندهای دیگر، تصاویر محافظت شده را مهندسی معکوس کرد. هر چند که با توسعه مدل PhotoGuard می‌توان نقایص آن را برطرف کرد
با پیشرفت هوش مصنوعی ضرروت مقابله با سو استفاده از قابلیت‌های AI بیش از پیش اهمیت پیدا می‌کند و با تکیه بر تکنیک‌هایی مانند PhotoGuard می‌توان از حریم خصوصی کاربران و ایجاد امنیت در فضای مجازی اطمینان حاصل کرد.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت