پرش به محتوای اصلی

Anthropic می‌گوید توجه انسانی گلوگاه نظارت بر agent است

Behzat AIagent-supervisionhuman-in-the-loopagent-operationsenterprise-aiattention-bottleneck
نمای نزدیک از یک رک سرور با کابل‌ها و چراغ‌های وضعیت چشمک‌زن در یک مرکز داده

فورچون گزارش می‌دهد که Anthropic ارتشی از Claudes را توصیف کرده که هر یک خواستار توجه انسانی هستند. این چارچوب‌بندی، توجه را — نه inference را — به‌عنوان منبع کمیاب در عملیات agent معرفی می‌کند. این موضوع اهمیت دارد زیرا بیشتر برنامه‌های agent ظرفیت نظارت را کم‌شمار می‌کنند: محدودیت تعداد agentهایی که می‌توانند هم‌زمان اجرا شوند، اغلب تعداد انسان‌های در دسترس برای بازبینی، اصلاح و تأیید اقدامات آن‌هاست، نه هزینه یا سرعت فراخوانی مدل.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، عکس آرشیوی

این مشاهده پس از موجی از گزارش‌های سازمانی مطرح می‌شود که نشان می‌دهد پذیرش از اعتماد پیشی گرفته است. تیم‌ها agentها را سریع‌تر از ساخت فرایندهای بازبینی، مسیرهای escalation و audit trailهای لازم برای نظارت بر آن‌ها مستقر می‌کنند. وقتی نظارت به‌عنوان امری فرعی تلقی شود، توان عملیاتی agent به توجه چند اپراتور محدود می‌شود و با رشد صف‌ها کیفیت افت می‌کند. راه‌حل عملیاتی، مدل بهتر نیست بلکه طراحی نظارت است: مالکیت روشن، خودمختاری محدود، تحویل ساختاریافته و instrumentation که تنها تصمیمات نیازمند انسان را نمایان کند.

برای برنامه‌های agent، پیامد عملی این است که نظارت را به‌عنوان هزینه‌ای درجه‌یک در بودجه لحاظ کنند. این یعنی سنجش بار توجه به ازای هر agent، تعریف آستانه‌های escalation و طراحی رابط‌هایی که یک اپراتور بتواند بدون جابه‌جایی مداوم زمینه، بر بسیاری از agentها نظارت کند. منبع کمیاب، قضاوت انسانی است و سیستم‌هایی که به آن احترام می‌گذارند، بیشتر از سیستم‌هایی که چنین نمی‌کنند مقیاس می‌پذیرند.

بیایید صحبت کنیم!