با این پیراهن از چشم هوش مصنوعی ناپدید شوید!

یک طراح آلمانی با استفاده از الگوهای بصری تولیدشده و بهینه‌شده با هوش مصنوعی، پیراهنی ساخته که می‌تواند عملکرد سامانه‌های تشخیص انسان مبتنی بر AI را مختل کند. آزمایش این لباس با سیستم تشخیص تصویر YOLO نشان داده که می‌توان با دستکاری الگوهای ظاهری، یکی از نقاط ضعف مدل‌های بینایی ماشین را هدف قرار داد.

هوش مصنوعی به‌سرعت در حال ورود به بخش‌های مختلف زندگی روزمره است و یکی از کاربردهای مهم آن، سیستم‌های نظارتی، تشخیص اشیا و ردیابی افراد است. حالا یک طراح آلمانی با طراحی پیراهنی خاص تلاش کرده این روند را به چالش بکشد؛ لباسی که می‌تواند سیستم‌های تشخیص تصویر مبتنی بر هوش مصنوعی را وادار کند تا فردی که آن را پوشیده، به‌عنوان «انسان» شناسایی نکند.

به گزارش وب‌سایت dezeen، این لباس که Digital Camouflage نام دارد، توسط طراح سایمون وکرت (Simon Weckert) در واکنش به یک پروژه آزمایشی برای استفاده از سیستم‌های نظارت تصویری هوش مصنوعی در یکی از میدان‌های برلین طراحی شده است. هدف پروژه، استفاده از هوش مصنوعی برای شناسایی و ردیابی افراد در تصاویر دوربین‌های نظارتی است.

ترکیبی عجیب از رنگ‌ها که هوش مصنوعی را فریب می‌دهد

پیراهن Digital Camouflage با ترکیبی از رنگ‌های بسیار روشن و الگوهای پیچیده تلاش می‌کند تصویری را که الگوریتم از یک انسان دریافت می‌کند، مختل کند. وکرت توضیح می‌دهد که سیستم‌های هوش مصنوعی در واقع مفهوم انسان را مانند یک انسان درک نمی‌کنند؛ بلکه بر اساس میلیون‌ها تصویر آموزشی، مجموعه‌ای از الگوهای آماری را یاد گرفته‌اند که معمولاً با ظاهر یک انسان همراه است.

به گفته این طراح الگوریتم ابتدا لبه‌ها، کنتراست و بافت را بررسی می‌کند و در لایه‌های عمیق‌تر به الگوهایی مانند شکل سر و شانه، نسبت اندام‌ها به بدن و پیوستگی کلی فرم بدن می‌رسد. طراحی این پیراهن تلاش می‌کند دقیقاً همین الگوها را مختل کند تا سیستم نتواند اجزای مختلف بدن را به یک «شخص» واحد نسبت دهد.

نکته جالب این پروژه آن است که طرح نهایی خود پیراهن نیز با کمک هوش مصنوعی توسعه یافته است. وکرت از روشی موسوم به حلقه خصمانه (Adversarial Loop) استفاده کرده است؛ به این صورت که یک طرح تولید می‌شود، در اختیار سیستم تشخیص قرار می‌گیرد، میزان اطمینان الگوریتم نسبت به وجود انسان اندازه‌گیری می‌شود و سپس طرح اصلاح می‌شود. این چرخه بارها تکرار شده تا میزان اطمینان سیستم به شناسایی فرد به‌شدت کاهش پیدا کند.

برای آزمایش عملکرد این لباس، وکرت از YOLO، یک سیستم متن‌باز تشخیص اشیای مبتنی بر هوش مصنوعی و قابل اجرا در زمان واقعی، استفاده کرده است. نتایج این آزمایش نشان می‌دهد الگوهای بصری می‌توانند در برخی شرایط باعث شوند سیستم تشخیص، فرد حاضر در تصویر را دیگر به‌عنوان انسان شناسایی نکند.

در همین رابطه بخوانید:

- هوش مصنوعی عمومی (AGI) چیست و چرا باید نگران آن باشیم؟

وکرت معتقد است این پروژه نشان می‌دهد نقاط ضعف سیستم‌های بینایی ماشین لزوماً برای انسان قابل تشخیص نیستند و گاهی برای پیدا کردن آن‌ها باید خود الگوریتم مورد آزمون قرار بگیرد. در همین راستا، نمونه‌های دیگری از پوشیدنی‌ها نیز با استفاده از YOLO آزمایش شده‌اند که هدفشان حفاظت از داده‌های زیستی کاربر بدون نیاز به پوشاندن چهره بوده است.