پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

نمای نزدیک از یک رک سرور که کابل‌های شبکه، چراغ‌های نشانگر و پچ‌پنل‌ها را در یک مرکز داده نشان می‌دهد.
۲۴ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

قراردادهای سندباکس: آنچه یک عامل باید پیش از دست‌زدن به یک اندپوینت تولیدی اثبات کند

مهار عامل یک قرارداد مجوزها و راستی‌آزمایی است، نه یک پرامپت گاردریل. هر مرز ابزار به یک پیش‌شرط نیاز دارد که عامل نتواند در زمان اجرا بر سر آن چانه بزند.

agent-safetysandboxingtool-gateway
عکس ماکرو از یک برد مدار که یک دای پردازنده و اجزای اطراف را با عمق میدان کم نشان می‌دهد.
۲۴ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

داوری روی دستگاه: تصمیم‌گیری درباره اینکه کدام گام‌های عامل هرگز از گوشی خارج نشوند

یک داور محلی تصمیم می‌گیرد کدام گام‌های عامل روی گوشی اجرا شوند و کدام به ابر ارتقا یابند، که به‌صورت سیاست کدگذاری می‌شود نه به‌عنوان heuristicهای برنامه.

on-device-aiagent-arbitrationedge-inference
نمای نزدیک از یک رک سرور که واحدهای ذخیره‌سازی چیده‌شده، چراغ‌های نشانگر و کابل‌کشی را در راهروی کم‌نور یک مرکز داده نشان می‌دهد.
۲۴ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ردیابی حسابرسی برای ایجنت‌ها یک مسئلهٔ نوشتن پیش‌از‌اجراست، نه یک مسئلهٔ داشبورد

پاسخگویی ایجنت تنها زمانی قابل اثبات است که هر فراخوانی ابزار، استفاده از اعتبارنامه و گذار وضعیت پیش از اجرا ثبت شود و این کار لاگ را به یک وابستگی زمان اجرا تبدیل می‌کند.

agent-auditwrite-ahead-logرصدپذیری
A close-up view of a futuristic bionic prosthetic arm in neon lighting.
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

هویت بدون قصد: چرا اعتباردهی به ایجنت‌ها آن‌ها را محدود نمی‌کند

احراز هویت یک ایجنت و محدودسازی دامنه توکن آن، آنچه را که در طول زنجیره‌ای از فراخوانی‌های ابزار انجام می‌دهد محدود نمی‌کند. سیاست در سطح قصد، که به ازای هر مسیر ارزیابی می‌شود، همان کنترلی است که شکاف ترکیب را می‌بندد.

agent-securityidentitypolicy-enforcement
Close-up of a robotic hand with a woman pointing, showcasing advanced prosthetic technology.
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ایجنت‌های بدون نظارت یک شکاف تله‌متری هستند، نه یک شکاف اعتماد

ایجنت‌ها بدون نظارت اجرا می‌شوند چون فریم‌ورک‌ها لاگ منتشر می‌کنند، نه تریس ساخت‌یافته. راه‌حل، observability به‌عنوان یک قرارداد زمان ساخت است، نه ابزار پس‌افتاده.

agent-observabilityllm-telemetrydistributed-tracing
A thematic Star Wars droids display at Disney's Hollywood Studios in Bay Lake, Florida.
۲۳ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ارکستراتور یک دیسپچر است: چرا ازدحام‌های ایجنت روی صف‌بندی شکست می‌خورند، نه روی استدلال

بیشتر شکست‌های چند-ایجنی که به استدلال مدل نسبت داده می‌شوند، شکست‌های زمان‌بندی هستند. fan-out بی‌کران، نبود backpressure و نبود admission control یک ازدحام را به طوفان retry تبدیل می‌کند.

multi-agent-systemsارکستراسیونbackpressure
Flat lay of wooden letter blocks spelling 'Next Steps', inspiring progress and motivation.
۲۳ سپتامبر ۲۰۲۶·4 دقیقه مطالعه

بدافزاری که حرکت بعدی خود را انتخاب می‌کند، دفاع مبتنی بر امضا را می‌شکند

وقتی ابزارهای نفوذ از مجموعه‌ای از مدل‌ها برای انتخاب اقدام بعدی خود استفاده می‌کنند، تشخیص باید از مصنوعات به رفتار تغییر کند — و پلتفرم‌های agent پیامدهای آن را به ارث می‌برند.

agent-securitybehavioural-detectionllm-agents
Three business professionals in discussion over a contract in a modern office setting.
۲۳ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

پذیرش انسانی یک مسیر جایگزین است، نه یک ویژگی

مسیریابی شکست‌های عامل به انسان تنها زمانی کار می‌کند که قرارداد تشدید صریح باشد: چه وضعیتی تحویل داده می‌شود، اپراتور چه چیزی را می‌تواند تغییر دهد، و چگونه اصلاح به عامل بازمی‌گردد.

human-in-the-loopagent-architectureescalation-contracts
Close-up of a sleek prosthetic hand interacting with a robotic arm in a high-tech environment.
۲۳ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

مدیریت وضعیت بر حافظه پیروز می‌شود: یادداشتی طراحی درباره پایداری عامل

بیشتر شکست‌های «حافظه» عامل، شکست‌های مدیریت وضعیت هستند. بازیابی از نوبت‌های گذشته نمی‌تواند ناورداها را تضمین کند؛ یک گزارش تراکنش می‌تواند.

agent-state-managementidempotencyagent-persistence