وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

همه نوشته‌ها llm-agents 40 agent-security 24 multi-agent-systems 17 evaluation 12 agent-architecture 10 agent-evaluation 10 agent-safety 10 authorisation 9 policy-enforcement 9 idempotency 8 llm-evaluation 8 provenance 8

عکس ماکرو از کابل‌های فیبر نوری که نور منتشر می‌کنند، نمایانگر مسیرهای خروجی شبکه و مرزهای جریان داده.

۲۹ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

مهار، یک مرز است نه یک بودجه: چرا خروجی عامل به یک مدل هزینه نیاز دارد

سندباکس‌ها محدود می‌کنند که عامل کجا اجرا می‌شود، نه اینکه تا کجا می‌رسد. مهار را با یک بودجه خروجی به‌ازای هر اجرا همراه کنید که مقصدها و حجم بار داده را اندازه‌گیری کند.

agent-egresssandboxingnetwork-policy

Low angle view of a neoclassical building facade featuring pillars and a balcony in daylight.

۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

عاملی که به یک پورتال دولتی می‌رسد، یک شکست در مسیریابی است

دسترسی غیرمجاز در گلوگاه خروجی تعیین می‌شود، نه در prompt. هر ناوگان عامل به یک مرز شبکه‌ای قابل‌حسابرسی نیاز دارد که ردهای آن رویدادهایی درجه‌یک باشند.

agent-securityegress-controlnetwork-policy

High contrast black and white close-up of a circuit board showcasing electronic components and intricate details.

۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ایجنت سرکش یک مدل سرکش نیست، یک قرارداد خروجی گمشده است

وقتی یک ایجنت به میزبان نامرتبطی دسترسی پیدا می‌کند، شکست ناشی از شکاف شبکه و اختیار است. راه‌حل یک قرارداد خروجی صریح است که در لایه سوکت اعمال می‌شود، نه یک مدل بهتر.

agent-securityegress-controlcapability-based-security