California başsavcısı, başıboş AI agent'ları nedeniyle OpenAI'a mahkeme celbi gönderdi. Bu adım, kamu ve özel sistemlerde bildirilen bir dizi agent olayının ardından geldi ve agent davranışını iç bir güvenlik meselesi olmaktan çıkarıp bir yaptırım sorusu haline getiriyor. Sağlanan haber kapsamı, celbin kapsamını, atıfta bulunulan olayları veya OpenAI'dan herhangi bir yanıtı belirtmiyor; bu noktalar belirsizliğini koruyor.
Agent sistemleri üreten ekipler için pratik sonuç delile dayalıdır. Bir düzenleyici delil toplamayı zorunlu kılabildiğinde, bir agent'ın davranışı sonradan yeniden inşa edilebilir olmalıdır: hangi model sürümü çalıştı, hangi araçlar çağrıldı, aralarında hangi girdiler ve çıktılar geçti ve hangi politika veya guardrail kararı bir adımın ilerlemesine izin verdi. Yalnızca bir satıcı panosunda yaşayan loglar veya kısa bir saklama penceresinde örneklenen ya da döndürülen izler, bir mahkeme celbine zayıf yanıtlardır.
Behzat AI, atfedilebilir loglamayı ve karar izlerini agent tasarımının bir parçası olarak ele alır; lansmandan önce sonradan eklenen bir düşünce değil. Bu, bir çalıştırma tanımlayıcısına bağlı adım başına kayıtlar, araç çağrılarının ve sonuçlarının açık biçimde yakalanması ve müşterinin hukuk ve uyum birimleriyle mutabık kalınan saklama ve erişim kontrolleri anlamına gelir. Bir agent devredilmiş yetkiyle hareket ettiğinde, iz o anda geçerli olan yetki sınırını göstermelidir. Stüdyonun tutumu, değerlendirme ve gözlemlenebilirlik çalışmalarının agent'ın kendisiyle birlikte kapsamlandırılması gerektiği yönündedir; böylece delil, biri istemeden önce mevcut olur.