مدلهای زبانی بزرگ (LLM) در تولید متن، پاسخگویی و انجام وظایف پیچیده توانایی بالایی دارند، اما بسیاری از تصمیمهایی که در نرمافزارها و عاملهای هوش مصنوعی گرفته میشوند، به تولید متن طولانی یا استدلال پیچیده نیاز ندارند. شرکت TypeSafe AI با معرفی مدل Jev قصد دارد این بخش از پردازش را با مدلی سریعتر، کمهزینهتر و متمرکز بر تصمیمگیری پوشش دهد.
چرا همیشه به LLM نیاز نداریم؟
بخش قابلتوجهی از کارهایی که نرمافزارهای هوشمند انجام میدهند، به تولید متن طولانی یا استدلال چندمرحلهای نیاز ندارد. گاهی نرمافزار فقط باید به یک سؤال مشخص پاسخ دهد، یک گزینه را انتخاب کند یا بر اساس اطلاعات موجود، مسیر بعدی را تعیین کند.
فرض کنید یک عامل هوش مصنوعی در حال رسیدگی به درخواست مشتری است. سیستم باید تشخیص دهد که آیا کاربر درخواست بازپرداخت وجه دارد یا خیر. سپس، در صورت تأیید، تصمیم بگیرد که درخواست به کدام بخش ارجاع شود یا آیا باید اطلاعات بیشتری از مشتری بگیرد.
برای چنین کاری، تولید یک پاسخ طولانی شبیه گفتوگوی انسانی ضروری نیست. نرمافزار به یک نتیجه مشخص نیاز دارد که بتواند مستقیماً در منطق اجرایی خود از آن استفاده کند. برای نمونه، خروجی میتواند شامل پاسخ بله یا خیر و میزان اطمینان مدل به آن تصمیم باشد.
مدلهای زبانی بزرگ میتوانند این وظایف را انجام دهند، اما طراحی آنها اساساً برای تولید توالی متن و پاسخهای انعطافپذیر است. TypeSafe AI میخواهد با Jev رویکرد متفاوتی را دنبال کند و مدلی بسازد که از ابتدا برای تصمیمهای ساختاریافته و قابل استفاده در کد طراحی شده باشد.
Jev چیست و چه تفاوتی با LLMها دارد؟
بنابر گزارش The Indian Express، ایده Jev نخستین مدل عمومی TypeSafe از خانواده System One Models است. این مدل بهجای آنکه مانند ChatGPT پاسخهای متنی تولید کند، برای پاسخگویی به پرسشهای مشخص و ارائه تصمیمهای ساختاریافته طراحی شده است.
در این روش، نرمافزار وضعیت فعلی (State) و مجموعهای از پرسشها را در اختیار مدل قرار میدهد و Jev نتیجه را به شکل دادههای ساختاریافته، همراه با احتمال اطمینان ارائه میکند. برای مثال، یک فروشگاه اینترنتی میتواند از مدل بپرسد آیا درخواست مشتری مربوط به بازپرداخت وجه است یا خیر. سپس برنامه بر اساس نتیجه و سطح اطمینان مدل تصمیم میگیرد درخواست را به کدام مسیر هدایت کند.
در این معماری، Jev لزوماً تصمیم نهایی را بهجای نرمافزار نمیگیرد، بلکه اطلاعات موردنیاز برای تصمیمگیری را در قالبی قابل پردازش در اختیار کد قرار میدهد.
ادعای سرعت ۱۹۳ برابری و هزینه بسیار کمتر
طبق اعلام TypeSafe AI، مدل Jev در ارزیابیهای داخلی این شرکت تا 193.6 برابر سریعتر و 444.6 برابر ارزانتر از مدلهای مرسوم عمل کرده است. این مقایسه به وظایف مشخصی مربوط میشود که در دسته System One قرار میگیرند و نباید بهعنوان برتری عمومی Jev در تمام کاربردهای هوش مصنوعی تفسیر شود.
برخی تحلیلها نیز به محدودیتهای این مقایسه اشاره کردهاند. از جمله اینکه بنچمارکها توسط تیم TypeSafe طراحی شدهاند و نوع وظایف، مدلهای مرجع و روش ارزیابی میتوانند بر نتیجه تأثیر بگذارند. بنابراین، اعداد اعلامشده بیشتر نشاندهنده هدفگذاری این شرکت برای وظایف محدود و ساختاریافته هستند.
TypeSafe میگوید Jev با معماری اختصاصی، نمونهبرداری موازی و روش RLCD یا یادگیری تقویتی برای تصمیمهای کالیبرهشده توسعه یافته است. گزارشها قیمت مدل را حدود ۰٫۰۴۲ دلار به ازای هر یک میلیون توکن ورودی اعلام میکنند و زمان پاسخ آن نیز بسته به نوع وظیفه، از دهها تا چند صد میلیثانیه عنوان شده است.
Jev در چه کاربردهایی استفاده میشود؟
Jev برای جایگزینی کامل مدلهای زبانی بزرگ ساخته نشده است. کاربرد اصلی آن میتواند در بخشهایی باشد که به تصمیمهای سریع، پرتکرار و قابل تعریف نیاز دارند، از جمله:
- تشخیص نیت کاربر و مسیریابی درخواستها
- کنترل جریان اجرای عاملهای هوش مصنوعی
- تصمیمگیری درباره تکرار یک عملیات ناموفق
- بررسی و ارزیابی پاسخ تولیدشده توسط LLM
- تشخیص درخواستهای مشکوک یا دستهبندی پیامها
- انتخاب ابزار یا مدل مناسب برای ادامه یک فرایند
برای مثال، یک LLM میتواند درخواست کاربر را تحلیل و پاسخ اولیه را تولید کند، اما تصمیمهایی مانند اینکه آیا پاسخ باید دوباره بررسی شود، آیا لازم است ابزار دیگری فراخوانی شود یا درخواست به بخش پشتیبانی انتقال یابد، میتواند به Jev سپرده شود. این تفکیک احتمالاً به کاهش هزینه و تأخیر در معماریهای مبتنی بر عاملهای هوش مصنوعی کمک میکند.
آیا Jev جایگزین مدلهای زبانی بزرگ خواهد شد؟
از دید فنی باید گفت که با وجود تمایل بسیار بالای برخی رسانه در مطرح کردن این ایده که Jev جایگزین LLM است ولی باید گفت که این ادعا و هدف از سوی TypeSafe برای کل LLMها مطرحشده یا دنبال میشود. این مدل برای وظایفی طراحی شده که پرسشها و خروجیهای آنها از قبل تا حد زیادی مشخص هستند. در مقابل، تولید محتوای خلاقانه، گفتوگوی آزاد، خلاصهسازی پیچیده و استدلال چندمرحلهای همچنان به مدلهایی با قابلیتهای گستردهتر نیاز دارند.
همچنین ساختاریافته بودن خروجی Jev به معنای حذف کامل خطا نیست. مدل همچنان ممکن است ورودی را نادرست تفسیر کند یا تصمیم اشتباهی بگیرد و در برابر ورودیهای مخرب نیز آسیبپذیر باشد. به همین دلیل، استفاده از آن به همراه کنترلهای نرمافزاری، آستانه اطمینان و سازوکارهای بررسی نتیجه ضروری خواهد بود.
در نهایت Jev را میتوان بخشی از روند حرکت صنعت هوش مصنوعی به سمت معماریهای ترکیبی دانست؛ معماریهایی که در آن، مدلهای بزرگ برای وظایف پیچیده و مدلهای تخصصیتر برای تصمیمهای محدود، سریع و کمهزینه به کار گرفته میشوند.
نظر خود را اضافه کنید.
برای ارسال نظر وارد شوید
ارسال نظر بدون عضویت در سایت