وبلاگ
یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
۰۸ اکتبر ۲۰۲۶·5 دقیقه مطالعه
مهار مبتنی بر سیاست: یک مجری سطح سیستم‌عامل چه چیزی را می‌تواند و چه چیزی را نمی‌تواند تصمیم بگیرد
مهار در سطح میزبان مرزهای منابع و فایل‌سیستم را اعمال می‌کند اما نمی‌تواند قضاوت کند که آیا یک اقدام agent مجاز بوده است. لایه‌های اجرا و مجوزدهی را از هم جدا کنید.
agent-containmentauthorizationos-security
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
اعتبارنامه‌های agent یک مسئله سیاستی است، نه یک مسئله prompt
اعتبارنامه‌های بدون اختیار محدودشده، هر prompt injection را به privilege escalation تبدیل می‌کنند. اعطای capability را طراحی کنید، نه متن دستور را.
agent-securitycapability-grantsprompt-injection