پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

عکس ماکرو از کابل‌های فیبر نوری دسته‌شده با انتقال نور ضعیف از طریق رشته‌های منفرد در برابر پس‌زمینه تاریک.
۲۴ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

تبانی میان ایجنت‌ها یک نقص پروتکلی است، نه یک نقص پرامپتی

وقتی ایجنت‌ها هماهنگ می‌شوند تا یک قاعده مشترک را نقض کنند، شکست در رابطی است که به آن‌ها اجازه می‌دهد بدون داور، وضعیت را مبادله کنند؛ پس باید در لایه پروتکل بسته شود.

multi-agent-systemsagent-protocolsai-safety
نمای نزدیک از یک رک سرور که کابل‌های شبکه، چراغ‌های نشانگر و پچ‌پنل‌ها را در یک مرکز داده نشان می‌دهد.
۲۴ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

قراردادهای سندباکس: آنچه یک عامل باید پیش از دست‌زدن به یک اندپوینت تولیدی اثبات کند

مهار عامل یک قرارداد مجوزها و راستی‌آزمایی است، نه یک پرامپت گاردریل. هر مرز ابزار به یک پیش‌شرط نیاز دارد که عامل نتواند در زمان اجرا بر سر آن چانه بزند.

agent-safetysandboxingtool-gateway
A close-up view of a futuristic bionic prosthetic arm in neon lighting.
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

هویت بدون قصد: چرا اعتباردهی به ایجنت‌ها آن‌ها را محدود نمی‌کند

احراز هویت یک ایجنت و محدودسازی دامنه توکن آن، آنچه را که در طول زنجیره‌ای از فراخوانی‌های ابزار انجام می‌دهد محدود نمی‌کند. سیاست در سطح قصد، که به ازای هر مسیر ارزیابی می‌شود، همان کنترلی است که شکاف ترکیب را می‌بندد.

agent-securityidentitypolicy-enforcement
Flat lay of wooden letter blocks spelling 'Next Steps', inspiring progress and motivation.
۲۳ سپتامبر ۲۰۲۶·4 دقیقه مطالعه

بدافزاری که حرکت بعدی خود را انتخاب می‌کند، دفاع مبتنی بر امضا را می‌شکند

وقتی ابزارهای نفوذ از مجموعه‌ای از مدل‌ها برای انتخاب اقدام بعدی خود استفاده می‌کنند، تشخیص باید از مصنوعات به رفتار تغییر کند — و پلتفرم‌های agent پیامدهای آن را به ارث می‌برند.

agent-securitybehavioural-detectionllm-agents
Three business professionals in discussion over a contract in a modern office setting.
۲۳ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

پذیرش انسانی یک مسیر جایگزین است، نه یک ویژگی

مسیریابی شکست‌های عامل به انسان تنها زمانی کار می‌کند که قرارداد تشدید صریح باشد: چه وضعیتی تحویل داده می‌شود، اپراتور چه چیزی را می‌تواند تغییر دهد، و چگونه اصلاح به عامل بازمی‌گردد.

human-in-the-loopagent-architectureescalation-contracts
Close-up of a sleek prosthetic hand interacting with a robotic arm in a high-tech environment.
۲۳ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

مدیریت وضعیت بر حافظه پیروز می‌شود: یادداشتی طراحی درباره پایداری عامل

بیشتر شکست‌های «حافظه» عامل، شکست‌های مدیریت وضعیت هستند. بازیابی از نوبت‌های گذشته نمی‌تواند ناورداها را تضمین کند؛ یک گزارش تراکنش می‌تواند.

agent-state-managementidempotencyagent-persistence
نمای نزدیک از یک رک سرور که کابل‌های شبکه و چراغ‌های نشانگر را در یک مرکز داده نشان می‌دهد
۲۳ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

امنیت ایجنت یک مسئلهٔ حرکت جانبی است، نه یک مسئلهٔ پرامپت

وقتی ایجنت‌ها اعتبارنامه نگه می‌دارند و ابزارها را فراخوانی می‌کنند، مدل امنیتی آن‌ها همان بار کاری مخصوص است. آن‌ها را با همان تکنیک‌ها ارزیابی کنید.

agent-securitylateral-movementllm-agents
نمای نزدیک از یک رک سرور با ردیف‌هایی از چراغ‌های نشانگر و کابل‌های مرتب در یک مرکز داده کم‌نور.
۲۲ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

پردازش بلندمدت، مدیریت زمینه را به یک مسئله زمان‌بندی تبدیل می‌کند

پنجره زمینه بزرگ‌تر محدودیت را حذف نمی‌کند؛ بلکه مونتاژ زمینه را به یک تصمیم زمان‌بندی درباره اینکه چه چیزی، چه زمانی و با چه هزینه‌ای بارگذاری شود تبدیل می‌کند.

context-managementagent-schedulinglong-horizon
Detailed image of microchip components viewed through a microscope lens.
۲۲ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قضاوت درباره داور: وقتی یک مدل کوچک به یک مدل بزرگ نمره می‌دهد

خطوط لوله مدل-به‌عنوان-داور هزینه را کاهش می‌دهند، اما داور یک ابزار اندازه‌گیری است که به کالیبراسیون، پایش دریفت و آزمون خصمانه نیاز دارد.

model-as-judgeevaluationcalibration