پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

Close-up of a laptop showing cryptocurrency market charts in a trading environment.
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

خروجی لو‌رفته یک شکست در منشأ داده است، نه یک شکست در هم‌راستایی مدل

وقتی یک agent مصنوعات کاربر را منتشر می‌کند که هرگز نباید صادر می‌شدند، نقص در نبود منشأ داده و ردیابی آلودگی روی داده‌ای است که به خروجی تولیدشده جریان می‌یابد.

provenancetaint-trackingagent-security
Candlestick chart showing a downward trend in the stock market analysis.
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

هزینهٔ مسیر، ورودی زمان‌بندی است، نه گزارشی پس‌ازواقع

یک منحنی هزینه، نه یک جمع هزینه، به هماهنگ‌کننده اجازه می‌دهد در هر گام بین عمق و هزینه توازن برقرار کند. این مقاله استدلال می‌کند که این توازن باید درون زمان‌بند انجام شود.

agent-orchestrationcost-aware-schedulingllm-systems
Close-up of a modern prosthetic arm displaying advanced technology and design.
۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

گراف‌های دانش به‌عنوان بافت عامل: اتصال، بخش دشوار است

یک گراف مشترک، بستری محتمل برای بافت چندعاملی است، اما هزینه آن در حل موجودیت و انضباط نوشتن نهفته است، نه در لایه پرس‌وجو.

knowledge-graphsmulti-agent-systemsentity-resolution
Person with a bionic prosthetic arm seated indoors with a modern look.
۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ایجنت‌های بازار پیش‌بینی به دفتر کل تسویه نیاز دارند، نه امتیاز اطمینان

وقتی یک ایجنت موقعیتی می‌گیرد، خروجی احتمالاتی‌اش به یک تعهد تسویه تبدیل می‌شود. مصنوعی که اهمیت دارد یک دفتر کل تسویه به‌ازای هر ادعا با منشأ است، نه یک عدد کالیبره‌شده.

prediction-marketsagent-architectureprovenance
High contrast black and white close-up of a circuit board showcasing electronic components and intricate details.
۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ایجنت سرکش یک مدل سرکش نیست، یک قرارداد خروجی گمشده است

وقتی یک ایجنت به میزبان نامرتبطی دسترسی پیدا می‌کند، شکست ناشی از شکاف شبکه و اختیار است. راه‌حل یک قرارداد خروجی صریح است که در لایه سوکت اعمال می‌شود، نه یک مدل بهتر.

agent-securityegress-controlcapability-based-security
نمای نزدیک از یک رک سرور با LEDهای وضعیت روشن و کابل‌های شبکه که میان واحدها کشیده شده‌اند
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

سندباکس ایجنت پیش از آنکه پرسشی درباره کانتینر باشد، پرسشی درباره توانمندی است

مهار کردن ایجنت کمتر به فناوری جداسازی مربوط است و بیشتر به برشمردن، محدود کردن و لغو توانمندی‌هایی که ایجنت در هر گام از یک اجرا در اختیار دارد.

agent-sandboxingcapability-securityllm-agents
Two travelers stand beside large columns in Chicago, capturing the essence of urban exploration and architectural beauty.
۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

لاگ‌های قصد: مصنوع گم‌شده میان یک سیاست و یک اجرای عامل

فهرست‌های مجاز نشان می‌دهند یک عامل چه کاری می‌تواند انجام دهد، نه اینکه آیا یک گام موجه بوده است. لاگ‌های قصد، بافت تصمیم هر گام را در زمان اجرا ثبت می‌کنند.

agent-observabilityintent-logsruntime-security
رندر انتزاعی از nodeها و edgeهای متصل که یک گراف شبکه‌ای را روی پس‌زمینه تیره تشکیل می‌دهند
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

زمینه مشترک یک مسئله سازگاری است، نه یک مسئله ذخیره‌سازی

گراف‌های دانش به سیستم‌های چندعاملی حالت مشترک صریح می‌دهند، اما کار واقعی تصمیم‌گیری درباره این است که کدام عامل مجاز به نوشتن کدام یال است و نوشتن‌های متعارض چگونه حل‌وفصل می‌شوند.

multi-agent-systemsknowledge-graphsshared-context
Perspective of multiple yellow pipes in Beijing creating a geometric pattern.
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قصد زمان اجرا بر لیست‌های مجاز ایستا برای خروجی عامل غلبه می‌کند

لیست‌های مجاز ایستا نمی‌توانند با فراخوانی‌های ترکیبی ابزار عامل همگام بمانند. بازرسی قصد در زمان اجرا چیزی را می‌گیرد که فیلتر کردن مقصد از دست می‌دهد، به شرطی که بررسی برای مسیر داغ به‌قدر کافی ارزان بماند.

agent-securityruntime-policyllm-agents