وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

همه نوشته‌ها llm-agents 40 agent-security 24 multi-agent-systems 17 evaluation 12 agent-architecture 10 agent-evaluation 10 agent-safety 10 authorisation 9 policy-enforcement 9 idempotency 8 llm-evaluation 8 provenance 8

Perspective of multiple yellow pipes in Beijing creating a geometric pattern.

۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قصد زمان اجرا بر لیست‌های مجاز ایستا برای خروجی عامل غلبه می‌کند

لیست‌های مجاز ایستا نمی‌توانند با فراخوانی‌های ترکیبی ابزار عامل همگام بمانند. بازرسی قصد در زمان اجرا چیزی را می‌گیرد که فیلتر کردن مقصد از دست می‌دهد، به شرطی که بررسی برای مسیر داغ به‌قدر کافی ارزان بماند.

agent-securityruntime-policyllm-agents

Flat lay of wooden letter blocks spelling 'Next Steps', inspiring progress and motivation.

۲۳ سپتامبر ۲۰۲۶·4 دقیقه مطالعه

بدافزاری که حرکت بعدی خود را انتخاب می‌کند، دفاع مبتنی بر امضا را می‌شکند

وقتی ابزارهای نفوذ از مجموعه‌ای از مدل‌ها برای انتخاب اقدام بعدی خود استفاده می‌کنند، تشخیص باید از مصنوعات به رفتار تغییر کند — و پلتفرم‌های agent پیامدهای آن را به ارث می‌برند.

agent-securitybehavioural-detectionllm-agents