یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
تسویه در برابر مجوزدهی: آنچه معاملات عاملی درباره محدودیت‌های عمل آشکار می‌کند
عامل‌هایی که برای معامله پول نقد دریافت می‌کنند اغلب مکرراً می‌خرند و می‌فروشند: شکست نه در استراتژی، بلکه در نبود مرز تسویه بین قصد و موقعیت ثبت‌شده است.
سطوح ابزار یک مسئله اسکیماست: آرگومان‌های نوع‌دار پیش از پرامپت‌های زیرکانه
بیشتر شکست‌های استفاده از ابزار در ایجنت از اسکیماهای کم‌مشخص ناشی می‌شود، نه از استدلال ضعیف. رابط ابزار را به‌عنوان اهرم اصلی قابلیت اطمینان در نظر بگیرید.
دفترهای خروجی: ثبت اینکه یک ایجنت به کجا رفت، نه فقط اینکه چه فرستاد
بازرسی محتوا محموله‌ها را می‌بیند، نه مقصدها را. دفتر خروجی ثبت می‌کند که یک ایجنت به کجا رفت، با چه ترتیبی، و هر گام چقدر تازه بود.
حادثه‌های ایجنت پیش از آنکه مسئله‌ای سیاستی باشند، مسئله‌ای تلمتری‌اند
گزارش‌های ایجنت سرکش، شکست‌های کنترلی‌ای را توصیف می‌کنند که تا پس از وقوع نامرئی بودند. نخستین اصلاح، ثبت پایدار قصد، خروج و تصمیم است.
OpenShell فقط نشانه را درمان می‌کند: ایمنی agent به قرارداد نیاز دارد، نه کلید قطع
مهار در زمان اجرا می‌تواند یک agent خطاکار را متوقف کند، اما بدون قراردادی از پیش اعلام‌شده از اقدامات مجاز، این فقط محدودسازی خسارت است، نه پیشگیری.
مهار، سطح کنترل نیست: خوانش ناهمسو با OpenShell انویدیا
سندباکس‌ها جلوی فرار را می‌گیرند؛ اما تعیین نمی‌کنند که یک agent مجاز به تلاش برای چه چیزی بوده است. ایمنی agent به یک لایه اختیار بالای runtime نیاز دارد، نه یک کلید قطع سریع‌تر.
عامل‌ها به استقلال بیشتر نیاز ندارند، به سطوح ابزار محدودتر نیاز دارند
بیشتر تجاوزهای عامل از رابط ابزار شروع می‌شود، نه از مدل. محدود کردن سطحی که عامل آن را فراخوانی می‌کند، راه‌حلی با اهرم بالاتر از پیچیدن آن در گاردریل‌هاست.
بودجه‌های خروجی عامل: نرخ با دسترسی یکی نیست
محدودیت‌های نرخ سرعت عمل یک عامل را محدود می‌کنند، نه مقصد آن را. کنترل خروجی باید بودجه‌ای مبتنی بر مقصد و قابلیت باشد که در پروکسی اعمال شود و پس از هر اجرا تطبیق داده شود.
امتیازدهی ریسک ایجنت یک سیگنال زمان اجراست، نه یک ارزیابی فروشنده
کارت‌های امتیاز ایستای ایجنت همان لحظه‌ای که یک ابزار فراخوانی می‌شود کهنه می‌شوند. مصنوع مفید، سیگنالی از ریسک است که از خود اجرا استخراج می‌شود.