آیا شرکتهای هوش مصنوعی در حال سرقت دستاوردهای علمی و اسرار تجاری هستند؟ یک هفته پس از جنجال OpenAI بر سر یافتن پاسخ یکی از مسائل حل نشده در ریاضیات، حالا خبر میرسد که بزرگترین شرکتهای فناوری از جمله انویدیا و پالانتیر، با احتیاط بیشتری از مدلهای پیشرفته هوش مصنوعی استفاده میکنند.
بر اساس گزارش The Information، شرکتهایی مانند انویدیا و پالانتیر محدودیتهایی برای استفاده کارکنان خود از مدلهای پیشرفته هوش مصنوعی اعمال کردهاند. چرا که بیم آن دارند اطلاعات اختصاصی و اسرار تجاری آنها در فرایندهای مرتبط با آموزش یا بهبود مدلها مورد استفاده قرار گیرد.
این نگرانیها بهویژه درباره شرکتهای Anthropic و OpenAI مطرح شده است. هر دو شرکت پیش از این اعلام کردهاند که در قراردادهای مشخص سازمانی، بهصورت پیشفرض از دادههای مشتریان برای آموزش مدلهای خود استفاده نمیکنند. با این حال، نحوه جمعآوری و استفاده از فرادادههای مربوط به نحوه استفاده مشتریان همچنان برای برخی سازمانها شفاف نیست.
تغییر سیاست Anthropic نگرانیها را بیشتر کرد
بخشی از این نگرانیها به تغییر سیاست Anthropic در تیرماه گذشته بازمیگردد. پس از تغییر سیاستهای مدلهای پرچمدار این شرکت، Anthropic امکان نگهداری برخی دادههای مشتریان را به خود داد. این شرکت میگوید هدف از نگهداری دادهها، کمک به شناسایی و جلوگیری از سوءاستفاده از مدل است. اما برخی مشتریان نگراناند که اطلاعات حساس تجاری آنها نیز در این فرایند جمعآوری شود.
برای نمونه، شرکت مخابراتی C Spire با هر دو شرکت OpenAI و Anthropic قراردادهایی دارد که استفاده از دادههای این شرکت برای آموزش مدلها را ممنوع میکند. با این حال، قراردادها به این شرکتها اجازه میدهد برخی دادههای فنی مربوط به نحوه استفاده از سرویس را جمعآوری کنند.
C Spire معتقد است این دادهها ممکن است شامل اطلاعاتی درباره اپلیکیشنهای متصل به مدلهای هوش مصنوعی و نحوه استفاده از آنها باشد. این شرکت همچنین خواستار شفافیت بیشتری درباره اطلاعاتی است که مدلها در جریان پردازش درخواستها تولید یا دریافت میکنند.
OpenAI تأکید کرده است که از دادههای «زنجیره تفکر» مدلهای استدلالی برای آموزش مدلهایش استفاده نمیکند. Anthropic نیز میگوید دادههای مربوط به نحوه استفاده مشتریان را به شکل ناشناس پردازش میکند و آنها را برای آموزش مدلها به کار نمیگیرد. با این حال، برخی شرکتها همچنان معتقدند توضیحات ارائهشده درباره دامنه دادههای جمعآوریشده کافی نیست.
در همین رابطه بخوانید:
- ریاضیدانها هنوز درباره کشف ریاضی هوش مصنوعی OpenAI قانع نشدهاند
حرکت شرکتها به سمت هوش مصنوعی خصوصی
برخی سازمانها برای کاهش ریسک به اجرای مدلهای هوش مصنوعی در زیرساختهای کاملاً خصوصی روی آوردهاند. شرکت نظامی Northrop Grumman از جمله سازمانهایی است که مدلهای متنباز را روی سرورهای ایزوله و بدون اتصال مستقیم به شبکههای خارجی اجرا میکند.
مایکروسافت نیز تلاش دارد از این نگرانیها به نفع پلتفرمهای امن هوش مصنوعی خود استفاده کند. این شرکت محیطهای ابری ایزولهای ارائه میدهد که مدلهای هوش مصنوعی را روی زیرساختهای خصوصی اجرا میکنند و دادهها را برای پردازش به شرکتهای هوش مصنوعی خارجی ارسال نمیکنند. البته اجرای چنین زیرساختهایی هزینه بالایی دارد.
شرکت داروسازی Novo Nordisk نیز رویکرد متفاوتی در پیش گرفته است. این شرکت همچنان از مدلهای Claude شرکت Anthropic برای برخی وظایف استفاده میکند، اما اجازه نمیدهد دادههای اختصاصی و محرمانه در اختیار این مدل قرار گیرد.
بیاعتمادی، مشتریان را از مدلهای پیشرفته دور میکند
به نظر میرسد نگرانیهای مربوط به حفظ دادههای محرمانه میتواند مستقیماً به درآمد شرکتهای هوش مصنوعی آسیب بزند. طبق گزارش The Information، یک شرکت بزرگ خدمات برق در آمریکا برنامه آزمایش مدل Anthropic را لغو کرده است. این شرکت قصد داشت بررسی کند آیا مدل مذکور میتواند در زیرساختهای حیاتی شبکه برق مورد استفاده قرار گیرد، اما پس از آنکه Anthropic با ارائه تضمین دائمی برای عدم «نگهداری دادهها» یا «ZDR» موافقت نکرد، پروژه متوقف شد.
انویدیا نیز استفاده از مدل Anthropic را به وظایفی محدود کرده که به دادههای حساس دسترسی ندارند. این شرکت نبود تضمین ZDR را یکی از دلایل این تصمیم عنوان کرده و برای وظایف حساستر از راهکار هوش مصنوعی داخلی خود استفاده میکند.
در شرایطی که شرکتها میلیاردها دلار برای استفاده از هوش مصنوعی سرمایهگذاری میکنند، به نظر میرسد اعتماد به نحوه مدیریت دادهها به یکی از مهمترین عوامل در انتخاب مدلهای هوش مصنوعی سازمانها تبدیل شده است.
دیگه اون بدبختا هم بخاطر دو زار مجبورن زیر سایه بی اعتمادی باشن 
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت