پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

نمای نزدیک از یک رک سرور با چراغ‌های وضعیت چشمک‌زن و کابل‌های شبکه، نمایانگر زیرساخت چرخهٔ عمر اعتبارنامه.
۰۲ اکتبر ۲۰۲۶·5 دقیقه مطالعه

ماندگاری پس از اجرا: چرا اعتبارنامه‌های عامل از وظیفه‌شان عمر بیشتری می‌کنند

اعتبارنامه‌های عامل اغلب پس از اتمام وظیفه باقی می‌مانند. شکاف واقعی بین پایان اجرا و انقضای اعتبارنامه است، نه بین استخدام و اخراج.

agent-securitycredential-lifecycleارکستراسیون
Close-up of a green illuminated recording button on electronic device in low light.
۰۱ اکتبر ۲۰۲۶·5 دقیقه مطالعه

دفترهای خروجی: ثبت اینکه یک ایجنت به کجا رفت، نه فقط اینکه چه فرستاد

بازرسی محتوا محموله‌ها را می‌بیند، نه مقصدها را. دفتر خروجی ثبت می‌کند که یک ایجنت به کجا رفت، با چه ترتیبی، و هر گام چقدر تازه بود.

agent-securityegress-controlرصدپذیری
عکس ماکرو از کابل‌های فیبر نوری با رشته‌های روشن در برابر پس‌زمینهٔ تاریک
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

بودجه‌های خروجی عامل: نرخ با دسترسی یکی نیست

محدودیت‌های نرخ سرعت عمل یک عامل را محدود می‌کنند، نه مقصد آن را. کنترل خروجی باید بودجه‌ای مبتنی بر مقصد و قابلیت باشد که در پروکسی اعمال شود و پس از هر اجرا تطبیق داده شود.

agent-securityegress-controlauthorization
A person pressing the elevator button inside a modern elevator, showcasing the control panel with floor numbers.
۲۸ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

املاک قدیمی یک مسئله تقویت اثر عامل هستند

عامل‌ها آسیب‌پذیری جدیدی در املاک قدیمی نمی‌سازند؛ آن‌ها توان عملیاتی بهره‌کشی را بالا می‌برند. راه‌حل، محدودیت نرخ و دامنه در مرز عامل است، نه بازنویسی.

agent-securitylegacy-systemsrate-limiting
Cybersecurity professionals working on computer systems, focusing on data protection in a dimly lit room.
۲۸ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قصد، سیگنال گمشده در تلمتری امنیت ایجنت است

پشته‌های امنیتی آنچه ایجنت‌ها انجام می‌دهند را ثبت می‌کنند، نه آنچه قصد دارند. تبدیل قصد اعلام‌شده به یک مصنوع امضاشده و قابل‌کوئری این شکاف را می‌بندد.

agent-securityرصدپذیریintent-tracking
Low angle view of a neoclassical building facade featuring pillars and a balcony in daylight.
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

عاملی که به یک پورتال دولتی می‌رسد، یک شکست در مسیریابی است

دسترسی غیرمجاز در گلوگاه خروجی تعیین می‌شود، نه در prompt. هر ناوگان عامل به یک مرز شبکه‌ای قابل‌حسابرسی نیاز دارد که ردهای آن رویدادهایی درجه‌یک باشند.

agent-securityegress-controlnetwork-policy
Close-up of a laptop showing cryptocurrency market charts in a trading environment.
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

خروجی لو‌رفته یک شکست در منشأ داده است، نه یک شکست در هم‌راستایی مدل

وقتی یک agent مصنوعات کاربر را منتشر می‌کند که هرگز نباید صادر می‌شدند، نقص در نبود منشأ داده و ردیابی آلودگی روی داده‌ای است که به خروجی تولیدشده جریان می‌یابد.

provenancetaint-trackingagent-security
High contrast black and white close-up of a circuit board showcasing electronic components and intricate details.
۲۵ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

ایجنت سرکش یک مدل سرکش نیست، یک قرارداد خروجی گمشده است

وقتی یک ایجنت به میزبان نامرتبطی دسترسی پیدا می‌کند، شکست ناشی از شکاف شبکه و اختیار است. راه‌حل یک قرارداد خروجی صریح است که در لایه سوکت اعمال می‌شود، نه یک مدل بهتر.

agent-securityegress-controlcapability-based-security
Perspective of multiple yellow pipes in Beijing creating a geometric pattern.
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قصد زمان اجرا بر لیست‌های مجاز ایستا برای خروجی عامل غلبه می‌کند

لیست‌های مجاز ایستا نمی‌توانند با فراخوانی‌های ترکیبی ابزار عامل همگام بمانند. بازرسی قصد در زمان اجرا چیزی را می‌گیرد که فیلتر کردن مقصد از دست می‌دهد، به شرطی که بررسی برای مسیر داغ به‌قدر کافی ارزان بماند.

agent-securityruntime-policyllm-agents