پرش به محتوای اصلی

Anthropic به ناظر بیرونی هوش مصنوعی دسترسی هم‌سطح کارکنان اعطا کرد

Behzat AIai-governanceagent-observabilityexternal-auditllm-agentsproduction-logging
نمای نزدیک از یک رک سرور با واحدهای روی‌هم‌چیده، کابل‌کشی و چراغ‌های وضعیت در مرکز داده‌ای کم‌نور

بر اساس گزارش Ars Technica، Anthropic به یک ناظر بیرونی هوش مصنوعی دسترسی‌ای هم‌سطح کارکنان خود اعطا کرده است. این ترتیب به‌عنوان الگویی جدید برای نظارت بیرونی بر رفتار مدل‌های frontier و agent معرفی می‌شود و بازبینی را از خلاصه‌های دوره‌ای فراتر برده و به سمت بازرسی مستقیم سیستم‌های زنده می‌برد. همان روز، TechCrunch گزارش داد که Anthropic ۵٪ از سهام خود را به یک صندوق منفعت عمومی متعهد کرده است.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای تیم‌هایی که agent عرضه می‌کنند، این نشانه درباره ابزارگذاری است نه سیاست‌گذاری. نظارت در سطح کارکنان به این معناست که بازبینان می‌توانند به همان سطوحی دسترسی داشته باشند که کارکنان استفاده می‌کنند: traceها، لاگ‌های tool call، بافت retrieval، اجراهای evaluation و پیکربندی استقرار. سیستم‌هایی که تنها خروجی‌های نهایی را ثبت می‌کنند، تحت این الگو به‌سختی قابل حسابرسی خواهند بود. الزامات عملی به این شرح است: ثبت ساختاریافته و تغییرناپذیر هر فراخوانی ابزار و پاسخ مدل؛ شناسه‌های همبستگی که یک درخواست کاربر را به کل مسیر agent پیوند می‌دهند؛ نگهداری به‌اندازه کافی طولانی برای پشتیبانی از بازبینی گذشته‌نگر؛ و کنترل‌های دسترسی که به یک طرف بیرونی اجازه خواندن تله‌متری تولید را بدون مجوز نوشتن یا افشای داده‌های مستأجران نامرتبط بدهد.

آنچه همچنان روشن نیست، دامنه این دسترسی، کنترل‌های فنی جداکننده بازبینی ناظر از تغییرات عملیاتی، و این است که آیا ترتیبات مشابه به استقرارهای agent شخص ثالث نیز گسترش خواهد یافت. استودیو این حرکت را به‌عنوان تلنگری می‌خواند تا قابلیت حسابرسی از همان اسپرینت نخست به‌عنوان یک محدودیت طراحی در نظر گرفته شود، نه لایه‌ای گزارشی که بعداً افزوده شود.

بیایید صحبت کنیم!