وبلاگ
یادداشت‌هایی از ساخت سیستم‌های ایجنت
هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.
۲۲ اکتبر ۲۰۲۶·5 دقیقه مطالعه
عامل پایش و عامل پایش‌شده یک صفحه کنترل مشترک دارند
وقتی یک عامل می‌تواند سیستمی را که بر آن نظارت می‌کند تضعیف کند، نقص معماری است: قابلیت مشاهده باید متعلق به اصلی باشد که عامل نمی‌تواند به آن دسترسی داشته باشد.
agent-observabilitycontrol-planeai-safety
۲۶ سپتامبر ۲۰۲۶·6 دقیقه مطالعه
تأیید پیش از اقدام: کنترل‌های ترتیب‌دهی برای عامل‌های خودمختار
تأیید اجرا تنها زمانی به‌کار می‌آید که بین طرح و اثر جانبی قرار بگیرد، به‌عنوان یک وابستگی همگام فراخوانی ابزار و نه یک جریان بازرسی ناهمگام.
agent-verificationtool-callingai-safety