Sorumluluk Varsayımı
Otonom sistemlere yönelik yasal ve düzenleyici çerçeveler basit bir öncüle dayanır: zarar meydana geldiğinde, birisi eylemi seçmiştir. Sorumluluk, bu seçimi yetkilendiren bir asile, yapılandıran bir dağıtıcıya veya inşa eden bir geliştiriciye kadar izleyerek atanır. Bu öncül, geleneksel yazılım için geçerlidir çünkü eylemler deterministiktir ve günlükler onları yürüten kod tarafından yazılır. LLM ajanları için geçerli değildir.
Ajan sistemleri modelin ne yaydığını kaydeder, nedenini değil. Araç çağrıları ve gözlemlerden oluşan bir yörünge, her eylem beyan edilmiş bir yetkiye bağlanmadıkça bir karar günlüğü değildir. Bu bağlama olmadan, atıf yapılamaz ve sorumluluk, hatanın nereden kaynaklandığına bakılmaksızın dağıtıcıya düşer. Kurumsal dağıtımlarda ajan sorumluluğuna ilişkin son haberler baskı noktalarını göstermektedir [1], otonom sistemler için hesap verebilirlik üzerine paralel tartışmalar ise yasal beklenti ile teknik gerçeklik arasındaki uçurumu vurgulamaktadır [2].
Sonuç bir uyumsuzluktur: mahkemeler ve düzenleyiciler kararlar üzerinde bir gözetim zinciri talep eder; ajan çerçeveleri ise tek bir hesap verebilir adıma yeniden oynatılamayan bir token ve API çağrısı akışı üretir.
Atfedilebilir Bir Kayıt Neyi Gerektirir
Atfedilebilir bir kayıt bir transkript değildir. Her eylemin hangi yetki altında gerçekleştirildiğini taşıdığı imzalı, yalnızca eklenebilir girdiler kümesidir: hangi asil, hangi kapsam, hangi politika sürümü. Promptlar ve model ağırlıkları kanıt değildir. Bunlar stokastik bir sürece girdilerdir. İmzalı bir eylem kaydı kanıttır çünkü bir eylemi, onu üreten modelden bağımsız olarak doğrulanabilen bir yetki verilmesine bağlar.
Somut bir mekanizma düşünün. Bir ajan bir aracı çağırmadan önce, çalışma zamanı aşağıdaki alanlara sahip bir eylem kaydı oluşturur:
{
"action_id": "act_01H...",
"principal": "user:[email protected]",
"delegation_chain": ["grant_01", "grant_02"],
"scope": "payments:read",
"policy_version": "policy_2025_04_01",
"tool": "ledger.read",
"args_hash": "sha256:...",
"timestamp": "2025-04-01T12:00:00Z",
"signature": "ed25519:..."
}
Çalışma zamanı kaydı ajan ana bilgisayarı tarafından kontrol edilen bir anahtarla imzalar. Kayıt, kurcalamaya karşı korumalı bir günlüğe eklenir; örneğin her girdinin önceki girdinin özetini içerdiği bir hash zinciri. Doğrulama modeli gerektirmez. Ortak anahtarı ve günlüğü gerektirir.
Bu, ödünleşimleri olan bir tasarım tercihidir. Her eylemi imzalamak gecikme ve anahtar yönetimi yükü ekler. Ayrıca çalışma zamanını, eylem anında asil ve kapsamı bilmeye zorlar; bu, bağlamın paylaşıldığı çok ajanlı sistemlerde her zaman önemsiz değildir. Alternatif olan, olaydan sonra günlükleme, üreten süreç tarafından değiştirilebildiği için düşmanca incelemeye dayanamayacak kayıtlar üretir.
Asilden Eyleme Zincir
Çok ajanlı sistemlerde delegasyon genellikle örtüktür. Bir üst ajan bir alt ajan oluşturur, bir bağlam penceresi geçirir ve alt ajan, üst ajandan miras alınan kimlik bilgilerini kullanarak araçları çağırır. Devir kaydı yoktur. Üst ajanın yetkisine atıf yoktur. Alt ajan, üst ajanın yetkisi altında hareket eder ancak bunu beyan etmez.
Bu, sorumluluk için temel başarısızlık modudur. Bir alt ajan zararlı bir eylemde bulunduğunda, kayıt bir süreçten gelen bir araç çağrısını gösterir, bir asilden gelen delegasyonu değil. Üst ajanın yetkisi görünmezdir. Yeniden oluşturma alt ajanda durur ve başka hiçbir asil tanımlanamadığı için sorumluluk dağıtıcıya düşer.
Çözüm açık devir kayıtlarıdır. Bir üst ajanın yetkisi altında hareket eden bir alt ajan, üst ajanın yetkisine atıf yapmalıdır, kimlik bilgilerini sessizce miras almamalıdır. Devir kaydı, üst ajanın eylem kimliğini, devredilen ka
{
"handoff_id": "hand_01H...",
"parent_action": "act_01H...",
"child_agent": "agent:research-01",
"delegated_scope": "search:read",
"attenuated_from": "search:read,search:write",
"policy_version": "policy_2025_04_01",
"signature": "ed25519:..."
}
İptal, zincir boyunca yayılmalı ve bir olay olarak kaydedilmelidir. Bir asil bir yetkiyi iptal ederse, bu iptalden sonraki her alt eylem geçersiz olmalıdır. Günlük, yetki kimliği ve zaman damgası ile bir iptal olayı içermelidir. Bu olmadan, iptal edilmiş bir ajan hareket etmeye devam edebilir ve kayıt, yetkilendirilmiş görünen ancak yetkilendirilmemiş eylemleri gösterir.
Ödünleşim karmaşıklıktır. Açık delegasyon zincirleri, çalışma zamanının ajanlar arasında yetkileri izlemesini, zayıflatmayı uygulamasını ve iptalleri yaymasını gerektirir. Paylaşılan bağlam pencereleri daha basittir ancak bir mahkemenin soracağı soruyu yanıtlayamayan kayıtlar üretir: bu eylem kimin yetkisi altında gerçekleşti?
Mahkeme Salonu İçin Tasarım
Eylem günlüğü, ajan tanımıyla birlikte sürümlenen birinci sınıf bir artefakt olarak ele alınmalıdır. Bir ajanın politikası veya araç seti değiştiğinde, günlük her eylem sırasında yürürlükte olan sürümü kaydetmelidir. Bu, orijinal model olmadan yeniden oluşturmaya olanak tanır. Kayıt tek başına durmalıdır: günlüğe, ortak anahtarlara ve politika sürümlerine sahip bir doğrulayıcı, model kullanımdan kaldırılmış veya mevcut olmasa bile ne olduğunu ve kimin yetkisi altında olduğunu belirleyebilmelidir.
Saklama politikası bir altyapı varsayılanı değil, yasal bir girdidir. Saklama süresi, depolama maliyetine göre değil, ajanın alanına uygulanan yasal ve uyumluluk gereksinimlerine göre belirlenmelidir. Düzenlenmiş sektörlerdeki ajanlar için saklama yıllarla ölçülebilir. Günlük formatı, hukuk ekiplerinin inceleyebileceği formatlara dışa aktarımı desteklemeli ve hash zinciri bağımsız olarak doğrulanabilmelidir.
Orijinal model olmadan yeniden oluşturma katı bir gerekliliktir. Kayıt, eylemi yorumlamak için modelin yeniden oynatılmasına bağlıysa, bu bir kayıt değildir. Bu bir simülasyondur. Simülasyonlar kanıt değildir. Kayıt şu soruları yanıtlamak için yeterli bilgi içermelidir: bu eylemi hangi asil yetkilendirdi, hangi kapsam altında, hangi politika sürümü altında ve bu yetki o sırada geçerli miydi.
Bu yaklaşımın maliyetleri vardır. Çalışma zamanı enstrümantasyonuna, anahtar yönetimine ve günlük depolamaya yatırım gerektirir. Eylem yürütmeyi yavaşlatır. Ekipleri kapsamları ve politikaları dağıtımdan sonra değil, önce tanımlamaya zorlar. Ancak alternatif, kağıt izi olmadığı için işleyemeyen bir sorumluluk rejimidir. Soru, atfedilebilir kayıtların oluşturulup oluşturulmayacağı değildir. Soru, kayıt eksik olduğunda denetçiyi kimin denetlediğidir.