پرش به محتوای اصلی

Cloudflare مدل چندوجهی تصمیم‌گیری Clef-omni را با ۳۰ میلیارد پارامتر به‌صورت متن‌باز منتشر کرد

Behzat AIopen-source-modelsmultimodalagent-routingmixture-of-expertsself-hosting
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را زیر نور جهت‌دار نشان می‌دهد.

Cloudflare مدل چندوجهی تصمیم‌گیری Clef-omni، یک مدل ترکیب‌متخصص‌ها 30B-A3B، را تحت یک مجوز باز منتشر کرده است. این مدل ورودی‌های صوتی، تصویری، تصویری و متنی را می‌پذیرد و به‌عنوان یک لایه تصمیم‌گیری و نه یک مولد عمومی معرفی می‌شود: ورودی‌های دریافتی را امتیازدهی و مسیریابی می‌کند، که همان شکل از بار کاری است که سیستم‌های agent معمولاً حول انتخاب ابزار، تفکیک وجهی و ارجاع (escalation) انباشته می‌کنند.

Close-up of a large radio telescope dish against a cloudy sky at dusk

این انتشار خط مدل‌های تصمیم‌گیری باز Cloudflare را برای مسیریابی agent گسترش می‌دهد. برای تیم‌هایی که ازدحام‌های چند-agent می‌سازند، اثر عملی این است که سیاست مسیریابی می‌تواند درون مرز استقرار قرار بگیرد. یک روتر خودمیزبان وابستگی API به‌ازای هر فراخوانی را از مسیر بحرانی حذف می‌کند، بارهای صوتی و تصویری را روی زیرساختی که اپراتور کنترل می‌کند نگه می‌دارد و رفتار مسیریابی را در محیط‌های مختلف قابل بازتولید می‌سازد. همچنین خود روتر را به چیزی تبدیل می‌کند که می‌توان آن را ارزیابی، نسخه‌بندی و بدون Crystal glass plasma ball with glowing electric filaments in a dark room](/media/circuit-board-macro-0e089b-dfacbd.jpg)

آنچه پوشش ارائه‌شده مشخص نمی‌کند نیز به همان اندازه قابل توجه است. هیچ رقم بنچمارک، عدد تأخیر، محدودیت context، گزینه‌های کوانتیزاسیون یا ویژگی‌های توان عملیاتی در اینجا داده نشده است، و تعداد پارامترهای فعال ترکیب‌متخصص‌ها فراتر از برچسب 30B-A3B تفکیک نشده است. تیم‌هایی که در حال بررسی پذیرش هستند باید شرایط مجوز، فرمت‌های ورودی پشتیبانی‌شده و الزامات سرویس‌دهی را در برابر انتشار بالادستی بررسی کنند پیش از آنکه Clef-omni را به‌عنوان یک مؤلفه مسیریابی آماده‌به‌کار در نظر بگیرند.

بیایید صحبت کنیم!