نیمه تاریک فناوری؛ با Deepfake می‌توان خاطرات جدید و نادرست در ذهن مخاطب ثبت کرد!

دیپ‌فیک یک فناوری جدید بسیار خطرناک است که به گفته برخی می‌تواند منجر به آغاز جنگ جهانی سوم شود. اخیراً محققان دریافته‌اند که با نمایش کلیپ‌های ویدئویی ساخته شده توسط Deepfake می‌توان خاطرات جعلی و جدید در ذهن مخاطب ایجاد کنند.

دیپ فیک یا Deepfake یک فناوری تقریباً نوظهور محسوب می‌شود که با استفاده از هوش مصنوعی و یادگیری عمیق، می‌تواند تصاویر و کلیپ‌های ویدئویی جعلی بسیار نزدیک به واقعیت ایجاد کند.

شما با کمک این فناوری می‌توانید چهره افراد را در فیلم‌های مختلف جابه‌جا کرده و حتی با تغییر صدای آن‌ها، کلمات و متن فیلم را هم به نحوی تغییر دهید که از نسخه واقعی قابل تشخیص نباشند.

محققان اخیراً دریافته‌اند که با نشان دادن کلیپ‌های ویدئویی دست‌کاری شده به واسطه فناوری دیپ‌فیک (DeepFake) می‌توانند خاطرات جدید و نادرست در ذهن شما ثبت کنند.

همان‌طور که در مقاله منتشر شده در ژورنال PLOS One توضیح داده شده است، در این آزمایش کلیپ‌های جعلی ساخته شده با فناوری دیپ فیک از چند فیلم به شرکت‌کنندگان نشان داده شد، کلیپ‌های جعلی که به اندازه کافی قانع‌کننده بوده‌اند تا شرکت‌کنندگان را فریب دهند.

به گزارش yahoo، نکته جالب آن است که به گفته برخی شرکت‌کنندگان، نسخه‌های جعلی فیلم‌های ساخته شده با DeepFake مثلاً نسخه‌ای از فیلم ماتریکس که در آن ویل اسمیت نقش اصلی را برعهده دارد، حتی بهتر از نسخه اصلی بوده‌اند.

با تمام تفاسیر، این مطالعات یک دستاورد و هشدار بسیار جدی به همراه داشت. طبق آنچه در مقاله منتشر شده توسط محققان آمده است:

ویدئوهای ساخته شده با فناوری دیپ‌فیک می‌توانند به راحتی خاطرات ذهن شما را تغییر داده و حتی خاطراتی را برای شما به وجود آورند که هرگز واقعیت نداشته‌اند. البته دیپ فیک مؤثرتر از توصیف‌های ساده متنی در تحریف حافظه نیست.

در همین رابطه بخوانید:

- تکنولوژی دیپ فیک چیست؟ چطور DeepFake بسازیم؟

به عبارت ساده‌تر، برای ثبت خاطرات جعلی در ذهن شما ضروری نیست. به گفته گیلیان مورفی (Gillian Murphy)، نویسنده اصلی این مقاله و محقق حوزه اطلاعات نادرست در دانشگاه کورک ایرلند، فناوری Deepfake بسیار خطرناک است و می‌تواند مشکلات بسیاری از جمله ویدئوهای تقلبی را به همراه داشته باشد.

آزمایشی که خطرات Deepfake را برجسته‌تر کرد

در آزمایش‌های فوق، محققان به ۴۳۶ شرکت‌کننده چند ویدئوی جعلی و ساخته شده با کمک فناوری دیپ فیک را نشان دادند؛ از برد پیت در فیلم The Shining تا شارلیز ترون در فیلم Captain Marvel، که همگی جعلی بودند.

به گفته محققان، اثر بر جای مانده از تماشای این کلیپ‌های ساختی بسیار متقاعد کننده بود، تا جایی که برخی شرکت‌کنندگان بازیگر نسخه اصلی فیلم را از یاد می‌بردند.

طبق آمار به دست آمده از این آزمایش، به طور متوسط ۴۹ درصد از شرکت‌کنندگان فریب ویدئوهای ساخته شده به کمک دیپ فیک را خوردند. ۴۱ درصد از این گروه ادعا کردند که نسخه بازسازی شده فیلم کاپیتان مارول (با بازیگرهای جدید) بسیار بهتر از نسخه اصلی بوده است.

گرچه نتایج به دست آمده از این تحقیقات نگران‌کننده به نظر می‌رسد، اما خوشبختانه در حال حاضر راه‌هایی برای دفاع از خودمان در برابر فناوری Deepfake وجود دارد.