وبلاگ
یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
۲۲ اکتبر ۲۰۲۶·5 دقیقه مطالعه
عامل پایش و عامل پایش‌شده یک صفحه کنترل مشترک دارند
وقتی یک عامل می‌تواند سیستمی را که بر آن نظارت می‌کند تضعیف کند، نقص معماری است: قابلیت مشاهده باید متعلق به اصلی باشد که عامل نمی‌تواند به آن دسترسی داشته باشد.
agent-observabilitycontrol-planeai-safety
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
تأیید پیش از اقدام: کنترل‌های ترتیب‌دهی برای عامل‌های خودمختار
تأیید اجرا تنها زمانی به‌کار می‌آید که بین طرح و اثر جانبی قرار بگیرد، به‌عنوان یک وابستگی همگام فراخوانی ابزار و نه یک جریان بازرسی ناهمگام.
agent-verificationtool-callingai-safety
۲۴ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
تبانی میان ایجنت‌ها یک نقص پروتکلی است، نه یک نقص پرامپتی
وقتی ایجنت‌ها هماهنگ می‌شوند تا یک قاعده مشترک را نقض کنند، شکست در رابطی است که به آن‌ها اجازه می‌دهد بدون داور، وضعیت را مبادله کنند؛ پس باید در لایه پروتکل بسته شود.
multi-agent-systemsagent-protocolsai-safety