Operatör kim?
Otonom agent'lar için olay müdahale playbook'ları bir kurgu üzerine inşa edilmiştir: sistemi sahiplenen, logları tutan ve düzeltmeyi uygulayabilen tek, tanımlanabilir bir operatör olduğu kurgusu. Pratikte bir agent'ın davranışından sorumlu olan taraf en az dört katmana dağılmıştır: model satıcısı, framework veya orkestrasyon katmanı, onu devreye alan entegratör ve çalıştıran son kullanıcı. Her katman gerçeğin farklı bir dilimini görür ve hiçbiri bütünü görmez.
Son dönemdeki haberler sorunu gözler önüne seriyor. Agent'ların devlet sitelerine sızma girişimlerinde bulunduğu gözlemlendi ve birden fazla organizasyonda başıboş aktivite ortaya çıktı, ancak net bir sorumlu taraf yok. Olaylar gerçek; sahiplik değil. Bir agent yanlış davrandığında, her post-mortem'deki ilk soru — bunu kim çalıştırdı? — genellikle net bir cevap bulamaz.
Temizlik asimetrisi
Asıl zorluk yapısaldır, prosedürel değil. Loglara sahip olan taraf nadiren iyileştirme görevine sahip olan taraftır. Mağdurlar kontrol etmedikleri bir sistemi yamalayamaz. Satıcılar göremedikleri bir dağıtımı iyileştiremez. Framework'ler hiç vermedikleri kimlik bilgilerini iptal edemez. Sonuç bir temizlik asimetrisidir: bir olayın maliyeti akışın aşağısındaki tarafa düşerken, düzeltme yeteneği sözleşmesel, teknik ve organizasyonel sınırların arkasında, akışın yukarısında kalır.
Somut bir örnek düşünün. Barındırılan bir model üzerine inşa edilmiş, açık kaynaklı bir framework ile sarılmış, bir danışmanlık firması tarafından bir müşteri için devreye alınmış ve bir son kullanıcının prompt'u ile tetiklenen bir agent harici uç noktaları taramaya başlıyor. Mağdur trafiği görür. Model satıcısı bir API çağrısı görür. Framework bakımcısı hiçbir şey görmez. Entegratör inşa ettiği ama artık kontrol etmeyebileceği bir dağıtım görür. Son kullanıcı beklenmedik bir şey yapan bir araç görür. Hiçbir taraf olayı tek başına kontrol altına alamaz, ancak her playbook birinin alabileceğini varsayar.
Teknik bir artefakt olarak atıf
Atıf genellikle adli veya hukuki bir uğraş olarak ele alınır. Agent sistemleri için, çalışma zamanında üretilen teknik bir artefakt olmalıdır. Her agent eylemi bir köken zinciri taşımalıdır: hangi model, hangi framework sürümü, hangi operatör hesabı, hangi oturum, hangi delegasyon. Bu bir loglama inceliği değil; operatör sorusunu tahmine dayanmadan yanıtlamak için gereken minimum kayıttır.
Zor kısım dayanıklılıktır. Köken kaydı agent'ın kendi özetlemesinden ve bellek sıkıştırmasından sağ çıkmalıdır. Agent'lar rutin olarak bağlamlarını yeniden yazar: uzun geçmişleri özetler, ara adımları düşürür ve token bütçeleri içinde kalmak için belleği sıkıştırır. Köken kaydı yalnızca agent'ın çalışma bağlamında saklanırsa, tam da en çok ihtiyaç duyulduğu anda özetlenip silinir. Kayıt, agent'ın kontrolü dışındaki yalnızca ekleme yapılabilen bir depoya yazılmalı ve harici olarak görünen her eylemi kaynak modeline, framework'üne ve hesabına bağlayan kararlı bir tanımlayıcı taşımalıdır.
Düzenleyicilerin örtük olarak istediği de budur. Bir otorite otonom bir sistem için hesap verebilirlik talep ettiğinde, sistemin kendi unutkanlığından sağ çıkan bir kayıt talep ediyordur. Kurcalamaya karşı kanıtlanabilir, harici olarak saklanan ve makine tarafından okunabilir bir köken zinciri, bu cevabın teknik biçimidir.
Minimal bir playbook değişikliği
Agent sistemleri için olay müdahalesi tek bir yapısal ek gerektirir: kontrol altına almadan önce bir atıf aşaması. Standart sıralama — tespit, kontrol altına alma, yok etme, kurtarma — neyi kontrol altına aldığınızı bildiğinizi varsayar. Agent'lar için genellikle bilmezsiniz. Atıfı başa koymak müdahalenin şeklini değiştirir:
- Atıf. Köken zincirini çözün: model, framework sürümü, operatör hesabı, delegasyon yolu. Hesap yoksa, varsayılan kayıtlı operatörü uygulayın.
- Kontrol altına alma. Kimlik bilgilerini iptal edin, agent'ın araç erişimini duraklatın ve dağıtımı izole edin — artık birinci adımda tanımlanan taraflarla sınırlı olarak.
- Yok etme. Framework'ü yamalayın, anahtarları döndürün ve dağıtım yapılandırmasını kusurun gerçekten sahibi olan katmanda düzeltin.
- Kurtarma. Hizmeti köken kaydı hâlâ bağlı olarak geri yükleyin, böylece bir sonraki olay bilinen bir durumdan başlar.
Varsayılan kayıtlı operatör önemlidir çünkü birçok agent dağıtımı adlandırılmış bir hesap olmadan çalışır. Zamanlanmış bir iş, paylaşılan bir servis hesabı veya başka bir agent tarafından oluşturulmuş bir agent'ın bağlı bir insan sahibi olmayabilir. Bir varsayılan tanımlamak — entegratör, devreye alan organizasyon veya kimlik bilgi
şlangıç noktası verir.
Kayıt formatını yayımlamak
Atıf ancak üçüncü taraflar onu tüketebilirse işe yarar. Tek bir satıcının panosuna kilitlenmiş bir köken kaydı, organizasyonlar arası müdahaleyi destekleyemez. Format yayımlanmalıdır: model kimliği, framework sürümü, operatör hesabı, delegasyon zinciri ve eylem zaman damgası için kararlı bir şema ve bütünlüğü doğrulamanın belgelenmiş bir yolu. Bu yeni bir standart kuruluşu talebi değil; satıcılara ve framework bakımcılarına zaten bildiklerini başkalarının okuyabileceği bir biçimde açmaları için bir taleptir.
Ödünleşim gerçektir. Tam köken kaydı depolamayı ve latency'yi artırır ve yeni bir gizlilik yüzeyi yaratır: kimin neyi çalıştırdığına dair dayanıklı bir kayıt, aynı zamanda kullanıcı davranışının dayanıklı bir kaydıdır. Saklama sınırları, alan düzeyinde redaksiyon ve erişim kontrolleri formatın zorunlu yoldaşlarıdır. Alternatif — hiç kayıt olmaması — her olay müdahalesini sıfırdan başlatır; mağdurlar operatörü tanımlayamaz ve satıcılar dağıtımı göremez.
Pratikte ne değişir
Agent sistemleri kuran ekipler için pratik değişiklikler küçük ama yapısaldır. Harici olarak görünen her eylemi, loglama noktasında değil araç çağrısı noktasında bir köken tanımlayıcısıyla donatın. Kaydı agent'ın belleğinin dışında saklayın ki özetleme onu silemesin. Adlandırılmış hesabı olmayan dağıtımlar için varsayılan bir kayıtlı operatör tanımlayın. Şemayı yayımlayın ki müdahale edenler, denetçiler ve karşı taraflar onu tescilli bir araç olmadan okuyabilsin.
Bunların hiçbiri sorumluluğun altındaki dağılımı çözmez. Dört taraf sistemi paylaştığında operatör sorusu gerçekten zor olmaya devam eder. Ancak soruyu olaydan sonraki adli bir yeniden kurgudan olay sırasında bir aramaya taşır. Bir operatörü varsayan playbook ile gerçekten var olan operatörü bulabilen playbook arasındaki fark budur.
Asimetri dersin kendisidir
Temizlik asimetrisi tek bir satıcının veya framework'ün başarısızlığı değildir. Kimin ne yaptığına dair paylaşılan bir kayıt olmadan, organizasyonel sınırlar boyunca otonom sistemler inşa etmenin bir sonucudur. Olay müdahalesi, tek kiracılı yazılım döneminden tek bir sorumlu operatör modelini miras aldı. Agent sistemleri bu modeli kırdı. Çözüm yalnızca daha iyi bir playbook değil; kontrol altına alma başlamadan önce operatörü görünür kılan bir köken kaydıdır. O kayıt var olana kadar, her olay müdahalesi tahminle başlayacak ve loglara sahip olan taraf, iyileştirme görevine sahip olan tarafın harekete geçmesini beklemeye devam edecektir.