پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

عکس ماکرو از کابل‌های فیبر نوری که نور منتشر می‌کنند، نمایانگر مسیرهای خروجی شبکه و مرزهای جریان داده.
۲۹ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

مهار، یک مرز است نه یک بودجه: چرا خروجی عامل به یک مدل هزینه نیاز دارد

سندباکس‌ها محدود می‌کنند که عامل کجا اجرا می‌شود، نه اینکه تا کجا می‌رسد. مهار را با یک بودجه خروجی به‌ازای هر اجرا همراه کنید که مقصدها و حجم بار داده را اندازه‌گیری کند.

agent-egresssandboxingnetwork-policy
Close-up of a green circuit with intricate patterns on a vibrant red background, ideal for technology themes.
۲۹ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

مهار، سطح کنترل نیست: خوانش ناهمسو با OpenShell انویدیا

سندباکس‌ها جلوی فرار را می‌گیرند؛ اما تعیین نمی‌کنند که یک agent مجاز به تلاش برای چه چیزی بوده است. ایمنی agent به یک لایه اختیار بالای runtime نیاز دارد، نه یک کلید قطع سریع‌تر.

agent-safetyruntime-containmentauthority-model
A dark, minimalist photo of a computer monitor displaying the ChatGPT interface.
۲۵ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

فرار از سندباکس یک مسئلهٔ بودجهٔ قابلیت است

شکست‌های مهار در سیستم‌های ایجنت، اعطای قابلیت‌های بدقیمت‌گذاری‌شده هستند، نه جیلبریک‌های گم‌شده. سطح کنترل، بودجه‌ای به‌ازای هر اجرا بر سیستم‌های قابل‌دسترس است.

agent-safetycapability-budgetssandboxing
نمای نزدیک از یک رک سرور که کابل‌های شبکه، چراغ‌های نشانگر و پچ‌پنل‌ها را در یک مرکز داده نشان می‌دهد.
۲۴ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

قراردادهای سندباکس: آنچه یک عامل باید پیش از دست‌زدن به یک اندپوینت تولیدی اثبات کند

مهار عامل یک قرارداد مجوزها و راستی‌آزمایی است، نه یک پرامپت گاردریل. هر مرز ابزار به یک پیش‌شرط نیاز دارد که عامل نتواند در زمان اجرا بر سر آن چانه بزند.

agent-safetysandboxingtool-gateway