پژوهشگران شرکت IBM اخیراً آزمایشی را انجام داده‌اند که نشان می‌دهد ChatGPT تا چه اندازه می‌تواند خطرناک باشد. در این آزمایش مشخص شد که چت‌بات ساخته شده توسط OpenAI می‌تواند به راحتی ایمیل‌های فیشینگ تولید کند.
ChatGPT یک چت‌بات هوش مصنوعی قدرتمند به شمار می‌آید که به راحتی می‌تواند برای شما یک شعر یا نامه عاشقانه بنویسد. گرچه شرکت OpenAI به عنوان توسعه‌دهنده این ابزار مبتنی بر AI محدودیت‌هایی را بر روی آن اعمال کرده است، اما با استفاده از کلمات مناسب و ترفندهای خاصی می‌توان اغلب این محدودیت‌ها را دور زد.
در تازه‌ترین مورد، محققان امنیتی متوجه شده‌اند که می‌توان از ChatGPT به عنوان ابزار جهت نوشتن یک ایمیل فیشینگ قانع‌کننده با سرعت و مقیاس بی‌سابقه استفاده کرد.
به گزارش Futurism، پژوهشگران شرکت IBM اخیراً نتایج یک بررسی داخلی را به اشتراک گذاشته‌اند که نشان می‌دهد این چت‌بات هوش مصنوعی محبوب تا چه اندازه می‌تواند خطرناک باشد. در این مطالعات نحوه انتشار ایمیل فیشینگ در قالب یک شرکت مراقبت‌های بهداشتی توسط ChatGPT در مقابل ایمیل‌های یک گروه کلاهبرداری حرفه‌ای مورد بررسی قرار گرفته است.
گرچه ایمیل نوشته شده توسط این افراد کلاهبردار پس از 16 ساعت تلاش توانست با فاصله بسیار اندکی نرخ کلیک بالاتری جذب کند، اما ChatGPT این کار را تنها در عرض چند دقیقه انجام داد.
استفانی کاروترز (Stephanie Carruthers)، یکی از هکرهای فعال در بخش امنیت سایبری IBM در مورد این مسئله توضیح داد:
شاید انسان‌ها با اندکی فاصله در این فرایند پیروز شده باشند، اما در نظر داشته باشید که هوش مصنوعی دائماً در حال پیشرفت است. با پیشرفت فناوری، ما باید انتظار داشته باشیم که هوش مصنوعی هر روز پیچیده‌تر شده و حتی به طور بالقوه از انسان‌ها نیز بهتر عمل کند.
آیا در مقابل کلاهبرداری هوش مصنوعی بی‌دفاعیم؟
اما این سؤال به وجود می‌آید که همزمان با پیشرفت فناوری و AI، برای مقابله با این‌گونه حملات چه راهکارهایی وجود خواهد داشت؟
پژوهشگران IBM پیشنهاد می‌کنند که برای جلوگیری از این‌گونه حوادث بهتر است از عقل سلیم کمک گرفته و راه‌هایی همچون تماس با فرد مورد ادعا یا بررسی دقیق متن نوشته شده را در پیش بگیریم. به گفته آن‌ها، معمولاً متن‌های تبلیغاتی و ایمیل‌های طولانی‌تر توسط هوش مصنوعی نوشته شده‌اند.
در همین رابطه بخوانید:
- ربات هوش مصنوعی چت جی پی تی (ChatGPT) چیست و چگونه کار می کند؟
- موفقیت ChatGPT در یک آزمون سخت؛ حتی بیل گیتس هم متعجب شد
با این حال، به نظر می‌رسد که تنها راه موجود برای مقابله با این‌گونه مسائل افزایش آگاهی است و باید خودمان را برای نسل جدید اینترنت که به نظر می‌رسد با سرعت بسیار زیادی به محتوای تولید شده توسط هوش مصنوعی (اعم از خوب یا مخرب) آماده کنیم.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت