وقتی هوش مصنوعی از روی امواج مغز شما به اشتباهش پی می‌برد!

پژوهشگران روشی جدید برای ارتباط انسان و هوش مصنوعی توسعه داده‌اند که به سیستم اجازه می‌دهد از روی واکنش‌های مغز منظور شما را متوجه شود. این فناوری می‌تواند در آینده به ربات‌ها و سامانه‌های هوش مصنوعی کمک کند که رفتار خود را اصلاح کنند بدون اینکه کاربر مجبور باشد اشتباه آنها را به زبان بیاورد.

پژوهشگران مؤسسه پیشرفته علم و فناوری کره جنوبی (KAIST) با همکاری Microsoft Research Asia، فناوری رابط مغز و کامپیوتری به نام «هم‌سویی عصبی ارزش» (Neural Value Alignment یا NVA) توسعه داده‌اند. این سیستم با استفاده از الکتروانسفالوگرافی (EEG) فعالیت الکتریکی مغز را ثبت می‌کند و به دنبال الگوهای عصبی مشخصی می‌گردد که هنگام مشاهده عملکرد اشتباه یا غیرمنتظره هوش مصنوعی ایجاد می‌شوند.

مشکل اصلی این است که رفتار انسان همیشه نشان نمی‌دهد دقیقاً چه هدفی در ذهن او وجود دارد. برای مثال، برداشتن یک فنجان می‌تواند با هدف نوشیدن، شستن، جابه‌جا کردن یا تحویل دادن آن به شخص دیگری انجام شود.

از طرف دیگر، یک هدف مشخص نیز می‌تواند با روش‌های مختلفی محقق شود. اگر هدف فرد فقط رفع تشنگی باشد، ممکن است فنجان را بردارد، بطری آب را بردارد یا از شخص دیگری بخواهد نوشیدنی بیاورد.

پژوهشگران این مسئله را «ابهام هدف و عمل» می‌نامند. به همین دلیل، هوش مصنوعی تنها با مشاهده رفتار یا دریافت دستور متنی و صوتی، همیشه نمی‌تواند بفهمد کاربر دقیقاً چه می‌خواهد یا انتظار دارد سیستم چگونه به نتیجه برسد.

ایده اصلی NVA استفاده از مغز کاربر به‌عنوان یک کانال بازخورد اضافی است. مغز انسان دائماً درباره اتفاقی که قرار است رخ دهد پیش‌بینی می‌کند و وقتی نتیجه با انتظار متفاوت باشد، واکنش‌های عصبی مشخصی ایجاد می‌شود.

RPE زمانی رخ می‌دهد که نتیجه یا هدف نهایی با چیزی که فرد انتظار داشته متفاوت باشد. فرض کنید به ربات خانگی بگویید «چیزی برای نوشیدن برایم بیاور» و در واقع آب بخواهید، اما ربات قهوه بیاورد. در این حالت، خود هدف اشتباه تشخیص داده شده و اختلاف میان نتیجه و انتظار فرد می‌تواند باعث ایجاد RPE شود.

اما SPE شرایط متفاوتی دارد. در این حالت، هوش مصنوعی هدف نهایی را درست تشخیص داده، ولی روش یا یکی از مراحل رسیدن به آن با انتظار کاربر تفاوت دارد. برای نمونه، اگر ربات بداند شما آب می‌خواهید اما به‌جای برداشتن بطری آب کنار دستتان به آشپزخانه برود و یک لیوان آب از شیر پر کند، نتیجه نهایی درست است اما روش انجام کار با انتظار شما تفاوت دارد.

پژوهشگران در آزمایش‌های خود الگوهای متفاوتی از امواج مغزی را هنگام وقوع RPE، SPE یا ترکیبی از هر دو شناسایی کردند. سپس با استفاده از یادگیری عمیق، سیگنال‌های EEG را طبقه‌بندی کردند تا سیستم بتواند نوع واکنش فرد به عملکرد هوش مصنوعی را تشخیص دهد.

در نتیجه، NVA می‌تواند مشخص کند آیا مشکل از هدف انتخاب‌شده توسط هوش مصنوعی است یا روشی که برای رسیدن به هدف انتخاب کرده است؛ آن هم بدون اینکه کاربر مجبور باشد اشتباه سیستم را به‌صورت شفاهی اعلام کند.

پژوهشگران این قابلیت را در قالب الگوریتمی با عنوان «الگوریتم هم‌افزایی انسان و هوش مصنوعی مبتنی بر هم‌سویی عصبی ارزش» پیاده‌سازی کرده‌اند. این الگوریتم از سیگنال‌های عصبی رمزگشایی‌شده به‌عنوان بازخورد برای تصمیم‌گیری هوش مصنوعی استفاده می‌کند و می‌تواند براساس نوع سیگنال شناسایی‌شده، مسیر عملکرد سیستم را در لحظه تغییر دهد.