پرش به محتوای اصلی

Anthropic برای نظارت بر معامله‌گری agentهای هوش مصنوعی ۲٬۸۰۰ وکیل جذب می‌کند

Behzat AIagent-supervisioncontract-lawhuman-in-the-loopagent-deploymentsai-governance
نمودار شبکهٔ انتزاعی از گره‌ها و خطوط متصل که لایهٔ تأیید میان پیشنهادهای agent و تعهدها را نشان می‌دهد

بر اساس گزارش Financial Times، Anthropic برای کمک به agentهای هوش مصنوعی در انجام معامله به وکلا روی آورده است. Tech-insider گزارش می‌دهد که این برنامه شامل ۲٬۸۰۰ وکیل است که بر معاملات agentها نظارت می‌کنند. این اقدام پس از استقرار agentها در جریان‌های کاری تجاری صورت می‌گیرد، جایی که خروجی مدل به تعهد تبدیل می‌شود نه پیشنهاد.

نمودار شبکهٔ انتزاعی با گره‌های متصل که جریان داده و الگوریتم‌های شبکهٔ عصبی را نشان می‌دهد

برای تیم‌هایی که سیستم‌های agent می‌سازند، این نشانه معماری‌محور است. وقتی یک agent شرایط را پیش‌نویس می‌کند، موضعی را پیشنهاد می‌دهد یا پیشنهاد متقابلی را می‌پذیرد، خروجی آن دیگر یک پیش‌نویس نیست بلکه گامی به سوی یک تعهد الزام‌آور است. لایهٔ بازبینی و تأیید میان پیشنهاد agent و خودِ تعهد، همان کنترلی است که چنین استقرارهایی را قابل دفاع می‌کند: آستانه‌های تأیید صریح، سابقه‌ای از آنچه agent پیشنهاد داده و بر چه مبنایی، و نقطه‌ای مشخص که در آن یک انسان واجد صلاحیت پیش از الزام‌آور شدن هر چیزی تأیید نهایی را انجام می‌دهد.

این گزارش ساختار برنامه، نقش دقیق وکلا، حوزه‌های قضایی درگیر یا هر جدول زمانی را مشخص نمی‌کند، بنابراین این جزئیات همچنان نامشخص است. آنچه قابل راستی‌آزمایی است جهت‌گیری است: ظرفیت نظارتی در مقیاسی گسترده و در کنار استقرار agentها در کارهای تجاری مذاکره‌محور در حال جذب است. استودیوهایی که انبوهی از agentها را در جریان‌های کاری نزدیک به قرارداد مستقر می‌کنند باید تأیید انسانی را به عنوان جزئی طراحی‌شده از خط لوله در نظر بگیرند، نه افزوده‌ای که پیش از عرضه به آن چسبانده شود.

بیایید صحبت کنیم!