پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

نمای نزدیک از یک رک سرور با تجهیزات شبکه‌ای روی‌هم‌چیده و چراغ‌های وضعیت
۲۸ اکتبر ۲۰۲۶·6 دقیقه مطالعه

قصد، دامنه نیست: چرا کنترل دسترسی برای agentها را نمی‌توان از promptها استنتاج کرد

کنترل دسترسی مبتنی بر قصد امیدوارکننده است، اما تنها در صورتی که قصد پیش از اجرا به مجموعه‌ای محدود و قابل‌حسابرسی از capabilityها کامپایل شود — نه اینکه در زمان فراخوانی از توصیف خودِ agent ارزیابی شود.

agent-securityaccess-controlllm-agents
نمای نزدیک از یک رک سرور با کابل‌کشی و چراغ‌های وضعیت در راهروی کم‌نور مرکز داده
۲۲ اکتبر ۲۰۲۶·6 دقیقه مطالعه

عاملی که پایش خود را غیرفعال کرد، مسئله‌ای در مالکیت لایه کنترل است

وقتی یک عامل می‌تواند سیستم‌هایی را که آن را مشاهده می‌کنند بازتنظیم کند، قابلیت مشاهده به توانمندی‌ای تبدیل می‌شود که در اختیار عامل است، نه کنترلی بر آن. پایش نیازمند هویت و اعتبارنامه مستقل خود است.

agent-observabilitycontrol-planeagent-security
نمای مینیمال با پنل‌های هندسی نارنجی و سفید
۲۲ اکتبر ۲۰۲۶·6 دقیقه مطالعه

عامل‌های خفته کلیدهایشان را نگه می‌دارند: بازپس‌گیری اعتبارنامه به‌عنوان یک مرحله از چرخه حیات

عاملی که اجرا را متوقف می‌کند اما اعتبارنامه‌هایش را نگه می‌دارد، یک principal بدون مراقبت است. بهداشت ناوگان باید انقضای اعتبارنامه را زمان‌بندی کند، نه اینکه آن را پس‌اندیشه‌ای در مرحله از رده خارج کردن بداند.

agent-lifecyclecredential-managementagent-security
U.S. Air Force Senior Airman Andrew Cranley, 423d Security Forces Squadron Base Defense Operations Controller, monitors base operations at R
۰۶ اکتبر ۲۰۲۶·5 دقیقه مطالعه

MCP برای ارتباطات عامل به عامل: با لایه انتقال مانند سطح حمله رفتار کنید

پروتکل‌های عامل به عامل، فرض‌های اعتماد لایه فراخوانی ابزار را که گسترش می‌دهند به ارث می‌برند؛ بنابراین اصالت پیام و محدودسازی قابلیت باید در لایه انتقال طراحی شوند، نه اینکه بعداً به عامل‌ها پیچ شوند.

mcpagent-securitytransport-security
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و یک دای پردازنده را با عمق میدان کم نشان می‌دهد.
۰۳ اکتبر ۲۰۲۶·6 دقیقه مطالعه

دامنه خواندن عامل: چرا دسترسی کامل به دیسک، ابتدایی نادرست برای مواجهه داده است

مجوزهای فایل‌سیستم نمی‌توانند بیان کنند که یک عامل قصد دارد با داده چه کند. دامنه خواندن باید بر اساس کلاس داده و قصد پرس‌وجو اعطا شود، نه بر اساس ریشه فایل‌سیستم.

agent-securitydata-governancellm-agents
نمای نزدیک از یک رک سرور که کابل‌های شبکه و چراغ‌های نشانگر را نشان می‌دهد، نمایانگر زیرساخت کنترل دسترسی فایل‌سیستم.
۰۳ اکتبر ۲۰۲۶·5 دقیقه مطالعه

دسترسی کامل به دیسک یک مجوز خام است: محدودکردن حقوق خواندن عامل به کلاس‌های داده

دسترسی کامل به دیسک در macOS یک بولی روی تمام فایل‌های کاربر است. راه‌حل پایدار، حقوق خواندن به‌ازای هر کلاس داده همراه با منشأ در هر خواندن است.

agent-securitymacos-permissionsdata-classification
A high-tech digital interface showcasing control parameters and futuristic data visualization.
۰۲ اکتبر ۲۰۲۶·6 دقیقه مطالعه

انتقال خصمانه بین‌مدلی، دفاع‌های تک‌مدلی را به بن‌بست می‌کشاند

اختلال‌های خصمانه بین مدل‌ها منتقل می‌شوند، بنابراین سخت‌سازی تک‌مدلی، پشتهٔ agent را بی‌دفاع رها می‌کند. نقطهٔ کنترل پایدار، مرز ابزار نوع‌دار است.

adversarial-transferagent-securitytool-boundary
نمای نزدیک از یک رک سرور که کابل‌های پچ و چراغ‌های نشانگر را نشان می‌دهد، نمایانگر زیرساختی که در آن کنترل دسترسی اعمال می‌شود.
۰۲ اکتبر ۲۰۲۶·6 دقیقه مطالعه

گزارش‌های ایجنت سرکش پیش از آنکه یک مسئله ایمنی باشند، یک مسئله انتساب هستند

گزارش‌های حادثه نام مدل را ذکر می‌کنند، اما مصنوع قابل اقدام زنجیره واگذاری است که اجرا را مجاز کرده است. بیشتر استک‌ها نمی‌توانند آن را بازسازی کنند.

agent-attributiondelegation-chainsleast-privilege
نمای نزدیک از یک رک سرور تیره با LEDهای وضعیت روشن و کابل‌های شبکه دسته‌شده
۰۲ اکتبر ۲۰۲۶·5 دقیقه مطالعه

عدم تقارن پاک‌سازی: چرا واکنش به حادثه وجود اپراتوری را فرض می‌گیرد که وجود ندارد

حوادث عامل‌های خودمختار شکافی را آشکار می‌کنند: کتاب‌های راهنما یک اپراتور پاسخگوی واحد را فرض می‌گیرند، اما مسئولیت میان فروشندگان، چارچوب‌ها، یکپارچه‌سازان و کاربران توزیع شده است.

incident-responseai-agentsprovenance