پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

Detailed view of an electronic music sequencer with buttons and dials, showcasing a sleek design.
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

عامل‌ها به استقلال بیشتر نیاز ندارند، به سطوح ابزار محدودتر نیاز دارند

بیشتر تجاوزهای عامل از رابط ابزار شروع می‌شود، نه از مدل. محدود کردن سطحی که عامل آن را فراخوانی می‌کند، راه‌حلی با اهرم بالاتر از پیچیدن آن در گاردریل‌هاست.

agent-toolingapi-designagent-safety
عکس ماکرو از کابل‌های فیبر نوری با رشته‌های روشن در برابر پس‌زمینهٔ تاریک
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

بودجه‌های خروجی عامل: نرخ با دسترسی یکی نیست

محدودیت‌های نرخ سرعت عمل یک عامل را محدود می‌کنند، نه مقصد آن را. کنترل خروجی باید بودجه‌ای مبتنی بر مقصد و قابلیت باشد که در پروکسی اعمال شود و پس از هر اجرا تطبیق داده شود.

agent-securityegress-controlauthorization
Modern security control room with a diverse team monitoring live surveillance feeds.
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

امتیازدهی ریسک ایجنت یک سیگنال زمان اجراست، نه یک ارزیابی فروشنده

کارت‌های امتیاز ایستای ایجنت همان لحظه‌ای که یک ابزار فراخوانی می‌شود کهنه می‌شوند. مصنوع مفید، سیگنالی از ریسک است که از خود اجرا استخراج می‌شود.

agent-riskruntime-monitoringllm-agents
Detailed view of a microchip, showcasing intricate electronic components on a dark textured surface.
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

مسیریابی مدل پیش از آنکه یک مسئله بهینه‌سازی باشد، یک مسئله ارزیابی است

مسیریابی میان مدل‌ها تنها زمانی به صرفه است که روتر بر پایه نتایج در سطح وظیفه و تحت یک مجموعه ارزیابی ثابت سنجیده شود، نه فقط بر پایه هزینه به ازای هر توکن.

model-routingllm-evaluationagent-systems
نمای نزدیک از یک رک سرور که کابل‌های شبکه، چراغ‌های نشانگر و پنل‌های پچ را در یک مرکز داده کم‌نور نشان می‌دهد.
۲۸ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

سیستم‌های قدیمی یک مسئله قابلیت عامل هستند، نه یک مسئله هدف

عامل‌ها دارایی‌های قدیمی را تازه آسیب‌پذیر نمی‌کنند؛ آن‌ها فرض‌های اعتماد ضمنی موجود در این دارایی‌ها را با سرعت ماشین قابل اجرا می‌کنند. راه‌حل، محدودسازی قابلیت در مرز است.

agent-capabilitieslegacy-systemsprotocol-boundaries
A person pressing the elevator button inside a modern elevator, showcasing the control panel with floor numbers.
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

املاک قدیمی یک مسئله تقویت اثر عامل هستند

عامل‌ها آسیب‌پذیری جدیدی در املاک قدیمی نمی‌سازند؛ آن‌ها توان عملیاتی بهره‌کشی را بالا می‌برند. راه‌حل، محدودیت نرخ و دامنه در مرز عامل است، نه بازنویسی.

agent-securitylegacy-systemsrate-limiting
نمای نزدیک از یک رک سرور با چراغ‌های نشانگر و کابل‌کشی ساختاریافته، نمایانگر اجراهای ابزارگذاری‌شده agent و مصنوعات ثبت‌شده.
۲۸ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

بازجویی از مدل یک روش بازبینی است، نه یک ویژگی شخصیتی

برخورد با خروجی agent به‌عنوان ادعایی که باید از آن بازجویی شود، نه نتیجه‌ای که باید پذیرفته شود، یک رویه ارزیابی تکرارپذیر است که تیم‌ها می‌توانند آن را نهادینه کنند.

agent-evaluationllm-review-gatesretrieval-provenance
Cybersecurity professionals working on computer systems, focusing on data protection in a dimly lit room.
۲۸ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قصد، سیگنال گمشده در تلمتری امنیت ایجنت است

پشته‌های امنیتی آنچه ایجنت‌ها انجام می‌دهند را ثبت می‌کنند، نه آنچه قصد دارند. تبدیل قصد اعلام‌شده به یک مصنوع امضاشده و قابل‌کوئری این شکاف را می‌بندد.

agent-securityرصدپذیریintent-tracking
نمای نزدیک از یک رک سرور که چراغ‌های نشانگر و کابل‌کشی ساختاریافته را در یک مرکز داده نشان می‌دهد.
۲۸ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

رد کردن یک تصمیم مسیریابی است، نه یک ویژگی مدل

تجاوز عامل معمولاً ناشی از نبود یک تصمیم مجوزدهی در بالادست مدل است. ایمنی باید در مسیر درخواست باشد، نه فقط در آموزش هم‌راستایی.

agent-safetypolicy-enginetool-use