آمازون مدل Strands Decider 2B، یک مدل تصمیمگیری متنباز و رایگان، را منتشر کرده است؛ این خبر را VentureBeat گزارش داده است. TechCrunch این انتشار را نسخهای مشابه Jev از آمازون توصیف میکند که در میان موج گستردهتر مدلهای تصمیمگیری عرضه شده است. Cloudflare نیز مدلهای تصمیمگیری را همراه با یک پلتفرم fine-tuning مبتنی بر RL متنباز کرد. این سه اعلامیه در یک جهت اشاره دارند: لایه تصمیمگیری یک agent از لایه تولید جدا شده و به سمت مدلهای کوچک و قابل اجرا بهصورت محلی سوق داده میشود.

برای سازندگان agent، این موضوع کنترل را بهجای فراخوانی یک مدل frontier، بهعنوان یک مرحله ارزان محلی برای routing و gating بازتعریف میکند. مدلهای تصمیمگیری متنباز با تأخیر زیر یک ثانیه میتوانند پیش از tool callها، handoffها و مسیرهای escalation قرار بگیرند و تعیین کنند چه چیزی اجرا شود، چه چیزی مسدود شود و چه چیزی به یک مدل بزرگتر ارسال شود. این امر پروفایل هزینه و latency در orchestration چند-agent را تغییر میدهد، جایی که پیشتر بسیاری از تصمیم
آنچه از پوشش ارائهشده روشن نیست، مجوز دقیق، روششناسی evaluation و ردپای سختافزاری هر انتشار است، و اینکه آیا این مدلها بهعنوان routerهای آماده جایگزینی در نظر گرفته شدهاند یا بهعنوان اجزایی درون یک پشته کنترل بزرگتر. harness ارزیابی استودیو، مدلهای تصمیمگیری را بهعنوان یک کلاس متمایز در نظر میگیرد که باید بر اساس دقت routing، رفتار abstention و latency تحت بار سنجیده شوند.
