پرش به محتوای اصلی

آمازون مدل تصمیم‌گیری Strands Decider 2B را عرضه کرد؛ موج مدل‌های تصمیم‌گیری گسترش می‌یابد

Behzat AIdecision-modelsagent-orchestrationopen-sourceroutingedge-inference
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده سطحی را زیر نور جهت‌دار نشان می‌دهد.

آمازون مدل Strands Decider 2B، یک مدل تصمیم‌گیری متن‌باز و رایگان، را منتشر کرده است؛ این خبر را VentureBeat گزارش داده است. TechCrunch این انتشار را نسخه‌ای مشابه Jev از آمازون توصیف می‌کند که در میان موج گسترده‌تر مدل‌های تصمیم‌گیری عرضه شده است. Cloudflare نیز مدل‌های تصمیم‌گیری را همراه با یک پلتفرم fine-tuning مبتنی بر RL متن‌باز کرد. این سه اعلامیه در یک جهت اشاره دارند: لایه تصمیم‌گیری یک agent از لایه تولید جدا شده و به سمت مدل‌های کوچک و قابل اجرا به‌صورت محلی سوق داده می‌شود.

Long-exposure star trails swirl over a dark night landscape in this stock photo

برای سازندگان agent، این موضوع کنترل را به‌جای فراخوانی یک مدل frontier، به‌عنوان یک مرحله ارزان محلی برای routing و gating بازتعریف می‌کند. مدل‌های تصمیم‌گیری متن‌باز با تأخیر زیر یک ثانیه می‌توانند پیش از tool callها، handoffها و مسیرهای escalation قرار بگیرند و تعیین کنند چه چیزی اجرا شود، چه چیزی مسدود شود و چه چیزی به یک مدل بزرگ‌تر ارسال شود. این امر پروفایل هزینه و latency در orchestration چند-agent را تغییر می‌دهد، جایی که پیش‌تر بسیاری از تصمیمGlass building facade with abstract geometric shapes on panels

آنچه از پوشش ارائه‌شده روشن نیست، مجوز دقیق، روش‌شناسی evaluation و ردپای سخت‌افزاری هر انتشار است، و اینکه آیا این مدل‌ها به‌عنوان routerهای آماده جایگزینی در نظر گرفته شده‌اند یا به‌عنوان اجزایی درون یک پشته کنترل بزرگ‌تر. harness ارزیابی استودیو، مدل‌های تصمیم‌گیری را به‌عنوان یک کلاس متمایز در نظر می‌گیرد که باید بر اساس دقت routing، رفتار abstention و latency تحت بار سنجیده شوند.

بیایید صحبت کنیم!