یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
چه کسی حسابرس را حسابرسی می‌کند: چارچوب‌های مسئولیت فرض می‌کنند ردپایی کاغذی وجود دارد که عامل‌ها برجای نمی‌گذارند
رژیم‌های مسئولیت فرض می‌کنند سابقه تصمیم قابل انتساب وجود دارد. معماری‌های فعلی عامل، مسیرهایی تولید می‌کنند که نمی‌توان آن‌ها را به یک گام مسئول بازسازی کرد.
OpenShell فقط نشانه را درمان می‌کند: ایمنی agent به قرارداد نیاز دارد، نه کلید قطع
مهار در زمان اجرا می‌تواند یک agent خطاکار را متوقف کند، اما بدون قراردادی از پیش اعلام‌شده از اقدامات مجاز، این فقط محدودسازی خسارت است، نه پیشگیری.
وقتی یک ازدحام ایجنت LLM را مقیاس‌پذیر می‌کنید، واقعاً چه چیزی می‌شکند
سیستم‌های چند-ایجنی کمتر از توانایی مدل شکست می‌خورند و بیشتر از مکانیک‌های هماهنگی. نگاهی به وضعیت مشترک، پروتکل‌های تحویل، و بده‌بستان‌های موازی‌سازی.
عامل‌های مرورگر در تسویه‌حساب: رضایت به دفتر کل نیاز دارد، نه به‌روزرسانی شرایط
باز کردن تسویه‌حساب به روی عامل‌های مرورگر، رضایت را به قراردادی ماشینی تبدیل می‌کند. بدون یک دفتر کل رضایت پایدار، هیچ مصنوعی ثبت نمی‌کند که عامل به چه چیزی رضایت داده است.
ابزارگذاری تجزیه: چرا هزینه مسیر عامل یک معیار برنامه‌ریز است
هزینه اجرا به‌صورت مجموع توکن گزارش می‌شود، اما متغیر غالب این است که برنامه‌ریز چگونه کار را تجزیه کرده است. حسابداری گره‌های برنامه، بودجه‌بندی را به ورودی زمان‌بندی تبدیل می‌کند.
مهار، یک مرز است نه یک بودجه: چرا خروجی عامل به یک مدل هزینه نیاز دارد
سندباکس‌ها محدود می‌کنند که عامل کجا اجرا می‌شود، نه اینکه تا کجا می‌رسد. مهار را با یک بودجه خروجی به‌ازای هر اجرا همراه کنید که مقصدها و حجم بار داده را اندازه‌گیری کند.
مهار، سطح کنترل نیست: خوانش ناهمسو با OpenShell انویدیا
سندباکس‌ها جلوی فرار را می‌گیرند؛ اما تعیین نمی‌کنند که یک agent مجاز به تلاش برای چه چیزی بوده است. ایمنی agent به یک لایه اختیار بالای runtime نیاز دارد، نه یک کلید قطع سریع‌تر.
هویت بدون وظیفه: چرا اعتبارنامه‌های هر عامل همچنان بیش از حد مجاز می‌دهند
اعتبارنامه‌های محدود به وظیفه طول عمر توکن را اصلاح می‌کنند، نه دامنه توکن را. دامنه در پایین‌دست نحوه تجزیه کار توسط برنامه‌ریز قرار دارد، که تجزیه را به یک کنترل امنیتی تبدیل می‌کند.
سطوح ابزار یک مسئله طراحی رابط است، نه یک مسئله پوشش
سوءاستفاده عامل از ابزار معمولاً از رابط شروع می‌شود: APIهای انسانی که در JSON پیچیده شده‌اند، شکست جزئی را پنهان می‌کنند و فاقد معناشناسی خطای نهایی هستند. طراحی سطوح ماشین‌محور این را برطرف می‌کند.