وبلاگ
یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
۲۹ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
OpenShell فقط نشانه را درمان می‌کند: ایمنی agent به قرارداد نیاز دارد، نه کلید قطع
مهار در زمان اجرا می‌تواند یک agent خطاکار را متوقف کند، اما بدون قراردادی از پیش اعلام‌شده از اقدامات مجاز، این فقط محدودسازی خسارت است، نه پیشگیری.
agent-safetyruntime-containmentagent-contracts
۲۹ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
مهار، سطح کنترل نیست: خوانش ناهمسو با OpenShell انویدیا
سندباکس‌ها جلوی فرار را می‌گیرند؛ اما تعیین نمی‌کنند که یک agent مجاز به تلاش برای چه چیزی بوده است. ایمنی agent به یک لایه اختیار بالای runtime نیاز دارد، نه یک کلید قطع سریع‌تر.
agent-safetyruntime-containmentauthority-model