پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

A moody close-up of guitar controls on a wooden body, emphasizing music technology.
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

ازدحام‌های ایجنت به بودجه نرخ نیاز دارند، نه فقط بودجه کوئری

ازدحام‌های طولانی‌مدت پیش از آنکه توکن‌هایشان تمام شود، تحمل درخواست شخص ثالث را به پایان می‌رسانند. ارکستراسیون باید بر اساس پوشش‌های نرخ به‌ازای هر هدف زمان‌بندی کند و این محدودیت‌ها در لایه خروجی اعمال شوند.

agent-orchestrationrate-limitingmulti-agent-systems
Candlestick chart showing a downward trend in the stock market analysis.
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

هزینهٔ مسیر، ورودی زمان‌بندی است، نه گزارشی پس‌ازواقع

یک منحنی هزینه، نه یک جمع هزینه، به هماهنگ‌کننده اجازه می‌دهد در هر گام بین عمق و هزینه توازن برقرار کند. این مقاله استدلال می‌کند که این توازن باید درون زمان‌بند انجام شود.

agent-orchestrationcost-aware-schedulingllm-systems
نمای نزدیک از یک رک سرور با LEDهای وضعیت و کابل‌های مرتب، که نشان‌دهنده یک صفحه کنترل تحت بار است
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ارکستراسیون ایجنت به زمان‌بند نیاز دارد، نه ناظر

یک ناظر واحد، ازدحام را سریالیزه می‌کند و گلوگاه واقعی را پنهان می‌سازد: کنترل پذیرش، صف‌بندی و پیش‌دستی. با ایجنت‌ها مثل پردازش‌ها رفتار کنید تا حالت‌های شکست قابل مشاهده شوند.

agent-orchestrationschedulingmulti-agent-systems
نمای نزدیک از یک رک سرور با LEDهای وضعیت روشن و کابل‌کشی ساختاریافته، نمایانگر زیرساخت زمان‌بندی و صفحه کنترل.
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ارکستراسیون ایجنت به یک زمان‌بند نیاز دارد، نه یک فریم‌ورک

ابزارهای کنترلی به سبک Kubernetes — پذیرش، سهمیه‌ها، پیش‌دستی — برای ازدحام‌های ایجنت مفیدتر از هر DSL جدید ایجنت عمل می‌کنند.

agent-orchestrationschedulingkubernetes