این روزها OpenAI به عنوان یکی از مهمترین شرکت‌های فناوری دنیا شناخته می‌شود که اطلاعات خارج از حد تصوری را پردازش کرده و برای ارائه خدمات تحت چت بات ChatGPT مورد استفاده قرار می‌دهد. اما خبر جدید این است که ظاهراً این سرویس مدتی پیش هک شده و جزئیاتی از نحوه عملکرد فناوری‌های این سازمان به سرقت رفته است.
طبق گزارش نیویورک تایمز اگرچه نفوذگران در این حمله سایبری به هسته اصلی سامانه‌های حاوی فناوری‌های کلیدی هوش مصنوعی دسترسی پیدا نکردند، اما این حادثه نگرانی‌های امنیتی قابل توجهی را در داخل شرکت و حتی در سطح امنیت ملی ایالات متحده ایجاد کرده است.
OpenAI: هیچ اطلاعات مهمی سرقت نشده
جالب است بدانید که هکرها با نفوذ به یکی از فروم‌های آنلاینی که در آنها کارکنان OpenAI درباره آخرین دستاوردهای خود در زمینه هوش مصنوعی بحث می‌کردند، موفق به هک پایگاه داده مذکور شده‌اند. با وجود اینکه سیستم‌های اصلی حاوی داده‌های آموزشی، الگوریتم‌ها، نتایج و اطلاعات مشتریان به خطر نیفتادند، اما همچنان برخی اطلاعات حساس در معرض دید قرار گرفته است.
نکته دیگر این است که مدیران OpenAI از همان ابتدا از هک داده‌های خود مطلع شده‌اند و سال گذشته گزارش این حادثه را برای کارکنان کلیدی و هیئت مدیره فاش کردند، اما تصمیم نهایی مجموعه مدیریتی سم آلتمن و شرکا به این ترتیب شده که گزارش هک به صورت عمومی اعلام نشود. دلیل این تصمیم نیز ظاهراً آن بوده که هیچ اطلاعاتی از مشتریان یا شرکای شرکت به سرقت نرفته و به احتمال زیاد، نفوذگر یک فرد مستقل و بدون ارتباط با دولت‌ها بوده است.
اخراج فرد منتشر کننده هک شرکت OpenAI
با این حال، گزارش نیویورک تایمز فاش کرده که حتی در داخل شرکت نیز افراد زیادی از این تصمیم ناراضی بوده‌اند. NYT در گزارش خود این‌طور نوشته که لئوپولد آشِنبرنر، مدیر برنامه فنی در OpenAI، اقدامات امنیتی شرکت را مورد انتقاد قرار داد و آنها را برای جلوگیری از دسترسی بازیگران مخالف به اطلاعات حساس ناکافی دانسته است. حتی این نارضایتی تا جایی پیش رفته که پس از تحولاتی، آشنبرنر به دلیل افشای اطلاعات اخراج شده است؛ اقدامی که شخص او مدعی‌ست با انگیزه‌های سیاسی انجام شده است.
OpenAI با رد ادعای آشِنبرنر می‌گوید اخراج او ارتباطی با نگرانی‌هایش در مورد امنیت داده‌های مسروقه نداشته است. در نهایت سم آلتمن و تیم مدیریت اوپن ای آی با ارسال نامه‌ای به او، ضمن قدردانی از خدماتش، اعلام کرده که با ارزیابی او از شیوه‌های امنیتی خود مخالف است.
در همین رابطه بخوانید:
- مدل زبانی بزرگ (LLM) در هوش مصنوعی چیست؟
- ربات هوش مصنوعی چت جی پی تی (ChatGPT) چیست و چگونه کار می کند؟
نگرانی‌های در سطح امنیت ملی آمریکا بابت هک OpenAI
بنابر تحلیل‌های مطرح شده تا به این لحظه، حادثه هک OpenAI، نگرانی‌ها را در مورد ارتباطات بالقوه با دشمنان خارجی، به ویژه چین، افزایش داده است. با این حال، OpenAI معتقد است که فناوری‌های هوش مصنوعی فعلی آنها تهدید قابل توجهی برای امنیت ملی ایجاد نمی‌کند. با این وجود، به راحتی می‌توان تصور کرد که درز این اطلاعات به متخصصان چینی، به آنها در پیشرفت سریع‌تر فناوری‌های هوش مصنوعی کمک کند.
OpenAI در واکنش به این نفوذ، اقداماتی مشابه سایر شرکت‌ها برای تقویت تدابیر امنیتی خود انجام داده است. برای مثال، محدودیت‌هایی برای جلوگیری از سوء استفاده از برنامه‌های کاربردی هوش مصنوعی به لایه‌های دسترسی شرکت اضافه شده‌است. همچنین شرکت مادر ChatGPT کمیته‌ای برای ایمنی و امنیت دسترسی داده‌ها تشکیل داده که پل ناکاسون، رئیس سابق آژانس امنیت ملی آمریکا، نیز عضو آن است تا با خطرات آینده مقابله کند.
انتشار اطلاعات شرکت‌های هوش مصنوعی موجب سوءاستفاده چینی‌ها می‌شود؟
در مقیاس مشابه باید به این نکته اشاره کرد که شرکت‌هایی مانند Meta، طرح‌های هوش مصنوعی خود را برای بهبود در کل صنعت به صورت متن‌باز در‌می‌آورند. با این حال، این کار باعث می‌شود این فناوری‌ها در دسترس دشمنان بالقوه آمریکا مانند چین نیز قرار بگیرد. مطالعات انجام شده توسط OpenAI، Anthropic و دیگران نشان می‌دهد که سیستم‌های هوش مصنوعی فعلی خطرناک‌تر از موتورهای جستجو نیستند.
قوانین فدرال و ایالتی برای کنترل انتشار فناوری‌های هوش مصنوعی و اعمال مجازات برای نتایج زیان‌بار در حال بررسی هستند. با این حال، به نظر می‌رسد این رفتارها بیشتر یک اقدام احتیاطی است، زیرا کارشناسان معتقدند که هنوز با جدی‌ترین خطرات ناشی از هوش مصنوعی سال‌ها فاصله داریم.
در همین حال، محققان هوش مصنوعی چینی به سرعت در حال پیشرفت هستند و به طور بالقوه از همتایان آمریکایی خود پیشی خواهند گرفت. این پیشرفت سریع، منجر به درخواست‌هایی برای کنترل بیشتر بر توسعه هوش مصنوعی برای کاهش خطرات آینده خواهد شد.
نظر شما در این مورد چیست؟ آیا چینی‌ها در فناوری هوش مصنوعی از امریکا جلو خواهند زد؟
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت