Ana içeriğe geç

Anthropic, dış AI denetçisine çalışan düzeyinde erişim verdi

Behzat AIai-governanceagent-observabilityexternal-auditllm-agentsproduction-logging
Loş bir veri merkezinde üst üste birimler, kablolar ve durum ışıklarıyla bir sunucu rafının yakın çekimi

Ars Technica'ya göre Anthropic, dış bir AI denetçisine kendi çalışanlarınınkiyle karşılaştırılabilir düzeyde erişim verdi. Bu düzenleme, frontier model ve agent davranışının dış denetimi için yeni bir model olarak sunuluyor; incelemeyi periyodik özetlerin ötesine taşıyıp canlı sistemlerin doğrudan denetimine yöneltiyor. Aynı gün TechCrunch, Anthropic'in hisselerinin %5'ini bir kamu yararı fonuna taahhüt ettiğini bildirdi.

Bir veri merkezinde aydınlatılmış sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor

Agent üreten ekipler için buradaki sinyal politika değil, enstrümantasyonla ilgili. Çalışan düzeyinde denetim, inceleyicilerin personelin kullandığı yüzeylere erişebildiği anlamına gelir: trace'ler, tool call logları, retrieval bağlamı, evaluation çalıştırmaları ve dağıtım yapılandırması. Yalnızca nihai çıktıları kaydeden sistemlerin bu model altında denetlenmesi zor olacaktır. Pratik gereksinimler bunu izler: her tool çağrısının ve model yanıtının yapılandırılmış, değiştirilemez şekilde loglanması; bir kullanıcı isteğini tam agent yörüngesine bağlayan korelasyon tanımlayıcıları; geriye dönük incelemeyi destekleyecek kadar uzun saklama; ve dış bir tarafın üretim telemetrisini yazma izni olmadan veya ilgisiz kiracı verilerini açığa çıkarmadan okumasına olanak tanıyan erişim kontrolleri.

Belirsiz kalan noktalar erişimin kapsamı, denetçi incelemesini operasyonel değişikliklerden ayıran teknik kontroller ve benzer düzenlemelerin üçüncü taraf agent dağıtımlarına yayılıp yayılmayacağı. Stüdyo bu hamleyi, denetlenebilirliğin sonradan eklenen bir raporlama katmanı değil, ilk sprintten itibaren bir tasarım kısıtı olarak ele alınması için bir işaret olarak okuyor.

Konuşalım!