مدتی قبل شرکت OpenAI اعلام کرد که بر روی سیستم هوش مصنوعی ChatGPT محدودیت‌هایی را اعمال کرده است که دیگر به کاربران اجازه نمی‌دهد از آن برای ساخت ابزارهای فیشینگ و کلاهبرداری سوءاستفاده کنند. با این حال به نظر می‌رسد که این محدودیت‌ها کار ساز نبوده و راه‌هایی برای دور زدن آن‌ها و استفاده از ChatGPT برای کارهای غیرقانونی وجود دارد.
به نظر می‌رسد که محدودیت‌های اولیه اعلام شده از طرف شرکت OpenAI بر روی سیستم هوش مصنوعی ChatGPT موفقیت‌آمیز نبوده و کلاهبرداران همچنان می‌توانند از این ابزار قدرتمند برای اهداف خرابکارانه و کلاهبرداری سوءاستفاده کنند.
طبق تازه‌ترین گزارش منتشر شده توسط Check Point Research، حتی پس از محدودیت‌های اعمال شده توسط OpenAI باز هم کلاهبرداران توانسته‌اند از این هوش مصنوعی برای ارتقای یک بدافزار سرقت اطلاعات استفاده کرده و نسخه به‌روزرسانی شده آن را در فضای مجازی منتشر کنند.
ChatGPT و پیشرفت سریع آن
ChatGPT یک ربات چت هوشمند است که توسط شرکت OpenAI ساخته شده و به دلیل سبک مکالمه و خلاقیت‌های خود توانسته سریعاً به یک پیشرفت چشمگیر و نقطه عطف در زمینه هوش مصنوعی تبدیل شود.
این هوش مصنوعی آن‌قدر محبوب و کاربردی شده که شرکت مایکروسافت مدتی قبل از ادغام آن با مرورگر اینترنت Edge و موتور جستجوی Bind خبر داد و اعلام کرد که به‌زودی انقلابی در نحوه استفاده از اینترنت شکل خواهد گرفت.
در حال حاضر دو راه برای استفاده از این سیستم هوش مصنوعی وجود دارد، راه اول از طریق یک رابط کاربری تحت وب برای دسترسی ساده به ChatGPT و استفاده از آن برای سرگرمی و کارهای ساده است و راه دوم از طریق رابط برنامه نویسی (API) است.
از روش دوم معمولاً برای ساخت اپلیکیشن‌ها، فرایندها و مواردی از این دست با کمک هوش مصنوعی استفاده می‌شود. توسعه‌دهندگان با کمک این API می‌توانند از رابط کاربری خود در کنار مدل‌های OpenAI و داده‌های در حال اجرا در پس زمینه استفاده کنند.
دور زدن محدودیت‌های OpenAI توسط خلافکاران سایبری
در حالی که شرکت OpenAI محدودیت‌های سنگینی بر روی نسخه تحت وب این هوش مصنوعی اعمال کرده است (به عنوان مثال دیگر نمی‌توان از آن برای نوشتن کدهای یک بدافزار توزیع ایمیل فیشینگ استفاده کرد)، اما هیچ محدودیتی برای API آن وجود ندارد.
در همین رابطه بخوانید:
- ربات ChatGPT چیست و چگونه می توانید از آن استفاده کنید؟
- رقیب جدی ChatGPT توسط گوگل معرفی شد؛ با هوش مصنوعی Bard آشنا شوید
طبق آنچه در گزارش Check Point Research آمده است، نسخه فعلی API شرکت OpenAI در حال حاضر توسط اپلیکیشن‌های خارجی (مانند ادغام مدل GPT-3 در کانال‌های تلگرامی) مورد استفاده قرار گرفته و تقریباً هیچ محدودیتی در زمینه امکان سوءاستفاده از آن وجود ندارد.
در نتیجه این رویکرد، امکان ایجاد محتوای مخرب توسط سیستم هوش مصنوعی ChatGPT وجود داشته و کلاهبرداران به راحتی می‌توانند از آن برای ساخت بدافزار، سیستم‌های فیشینگ و غیره استفاده کنند.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت