Skor kartı sorunu
Agent risk skorlaması bir tedarik alıştırması olarak tekrar tekrar karşımıza çıkıyor. Bir sicil karşılaştırılabilir bir sayı gerektirir; bir tedarikçi telemetriyi açığa çıkarmadan bir skor kartı sunabilir; skor kartı bu agent onaylı mı sorusunu yanıtlar, bu çalışma güvenli mi sorusunu değil. Bu bir kategori hatasıdır. Dağıtım anında hesaplanan bir skor, agent yeni bir araca, yeni bir hedefe veya yeni bir görev şekline dokunduğu anda geçersiz hale gelir. İşe yarayan artefakt, sicildeki bir sayı değildir. Çalışmanın kendisinden türetilen, sürekli güncellenen bir sinyaldir.
Bu, yönetişime karşı bir argüman değildir. Kanıtın nerede yaşadığına dair bir argümandır. Yönetişim, canlı bir sinyale işaret eden bir işaretçiye ihtiyaç duyar, onun donmuş bir ikamesine değil.
Statik skorlama neden sürüyor
Bu süreklilik yapısaldır, irrasyonel değil. Tedarik ekipleri bir sicilden sorumludur. Bir sicil satırlara ihtiyaç duyar ve satırlar tedarikçiler, ekipler ve inceleme döngüleri arasında karşılaştırılabilir değerlere ihtiyaç duyar. Bir skor kartı bu iş akışına uyar. Canlı bir sinyal uymaz, çünkü okunduğu an ile üzerine aksiyon alındığı an arasında değişir.
Tedarikçilerin sunabileceklerinde de bir asimetri vardır. Bir skor kartı, telemetri, araç şemaları veya trace verisi açığa çıkarılmadan üretilebilir. Bir çalışma zamanı sinyali üretilemez. Birini istemek, agent'ın gerçekte nasıl davrandığına dair görünürlük istemektir ki bu farklı bir ticari konuşmadır.
Sonuç olarak sicil, yanıtlaması kolay olan ve nadiren önemli olan bir soruyu yanıtlamaya başlar. Onay bir kapıdır. Güvenlik bir yörüngenin özelliğidir. İkisi aynı şey değildir ve bunları birbirine karıştırmak yanlış bir kapsama hissi üretir.
Bir çalışma gerçekte neyi ortaya koyar
Bir çalışma bir kararlar dizisidir. Araç çağrı dizileri, hiçbir dağıtım öncesi anketin yakalayamadığı niyet kaymasını gösterir. Bir belgeyi okuyarak başlayıp harici bir uç noktaya yazarak biten bir agent, tek bir görev içinde etkin risk profilini değiştirmiştir ve hiçbir statik skor bu geçişi yansıtmaz.
Birkaç özellik gözlemlenebilir ve kaydetmesi ucuzdur:
- Araç çağrı dizileri. Sıra, komşuluk ve tekrar. Önceki çalışmalarda hiç birlikte görünmemiş yeni bir araç kombinasyonu, tanıdık bir zincirden farklı bir sinyaldir.
- Çıkış hedefleri. İlk kez görülen host'lar, protokoller ve yollar. Yenilik, bir blocklist'ten daha güçlü bir sinyaldir çünkü blocklist'ler geride kalır.
- Fiil karışımı. Okuma benzeri işlemlerin yazma benzeri işlemlere oranı. Yazma, silme veya gönderme yönünde bir kayma, bir hatanın sonucunu değiştirir.
- Yeniden deneme kalıpları. Bir başarısızlıktan sonra tekrarlanan denemeler geçici bir arızaya veya bir tırmandırma girişimine işaret edebilir. Ayrım önemlidir.
- Tırmandırma girişimleri. Çalışma ortasında daha geniş izinler, daha uzun timeout'lar veya ek araçlar için talepler.
Aynı agent bir görevde düşük riskli, bir saat içinde başka bir görevde yüksek riskli olabilir. Bir belgeyi okuyup metin döndüren bir özetleme görevi, bir belgeyi okuyup bir veritabanını sorgulayan ve harici bir servise gönderi yapan bir görevle aynı risk nesnesi değildir; her ikisi de aynı agent tarafından aynı konfigürasyonla yürütülse bile.
Uygulanabilir bir sinyal tasarımı
Tasarım hedefi, yörüngeden türetilen, yörünge ilerledikçe güncellenen ve agent'lara değil aksiyonlara bağlanan bir sinyaldir.
Riski yörünge özelliklerinden türet
Agent'ı değil, çalışmayı skorla. Özellikler arasında yeni araç kombinasyonları, ilk kez görülen hedefler, fiil karışımı kaymaları, yeniden deneme patlamaları ve tırmandırma girişimleri bulunur. Her özellik, yeni olaylar geldikçe yeniden hesaplanan bir sinyale katkıda bulunur. Sinyal, izlenen yolun bir fonksiyonudur, onu izleyen varlığın bir özelliği değil.
Somut bir mekanizma: gözlemlenen çağrı dizileri ve hedefler için araç sınıfı başına bir baseline tutun. Bir çalışma daha önce gözlemlenmemiş bir kombinasyon veya görülmemiş bir hedef ürettiğinde bir yenilik olayı yayınlayın. Güncel bir risk sinyali üretmek için yenilik olaylarını kayan bir pencere üzerinde toplayın. Pencere önemlidir çünkü tek bir yeni hedef gürültüdür; kısa bir aralıkta bir küme halinde gelmeleri değildir.
Eşikleri agent'lara değil aksiyonlara bağla
Eşik, aktörü değil aksiyonu kapılamalıdır. Bir okumaya izin vermek ucuzdur. İlk kez görülen bir hedefe yazma değildir. Bir silme değildir. Bir izin tırmandırması değildir. Aksiyon düzeyinde ifade edilen eşikler, düşük riskli bir çalışmanın inceleme olmadan ilerlemesine izin verirken sonuç taşıyan belirli adımda duraklamayı zorlar.
Sicil girdisi de buraya aittir. Sicil, statik bir skor değil, canlı sinyale ve güncel eşik politikasına bir işaretçi tutmalıdır. Girdi kanıt nerede ve hangi politika geçerli sorularını yanıtlar, bu agent güvenli mi sorusunu
Canlı bir sinyale işaret eden bir sicil, sinyal değiştikçe kullanışlı kalır. Donmuş bir sayı tutan bir sicil, agent'ın davranışı sayının hesaplandığı koşullardan saptığı anda yanıltıcı hale gelir. İşaretçi yönetişim artefaktıdır. Sinyal operasyonel olandır.
Ödünleşimler
Sürekli skorlama bedava değildir ve maliyetler gerçektir.
Depolama ve inceleme dikkati. Her çalışma için yörünge özelliklerini kaydetmek, depolanması, sorgulanması ve incelenmesi gereken bir veri hacmi üretir. Saklama politikaları önemlidir. Her olayın tam sadakatle tutulması gerekmez; örnekleme ve toplama, örneklemenin belgelenmesi ve toplamanın önemli olayları gizlememesi koşuluyla meşru mühendislik tercihleridir.
Alarm yorgunluğu. Baskın başarısızlık modu budur. Eşikler araç sınıfı başına ayarlanmazsa sinyal sürekli bir düşük değerli alarm akışı üretir ve inceleyiciler onları okumayı bırakır. Başarısızlık sinyalin yanlış olması değildir; sinyalin görmezden gelinmesidir. Araç sınıfı başına ayarlama isteğe bağlı değildir. Bir okuma sınıfı eşiği ile bir yazma sınıfı eşiği aynı değeri paylaşmamalıdır.
Yanlış negatifler ile yanlış pozitifler. Geri döndürülemez aksiyonlar için yanlış negatif, yanlış pozitiften daha pahalıdır. Engellenen bir yazma incelenip serbest bırakılabilir. Tamamlanan bir silme bırakılamaz. Bu asimetri, geri döndürülemez aksiyonlarda daha sıkı, geri döndürülebilir okumalarda daha gevşek eşikler gerektirir; bu okuma yolunda daha fazla yanlış pozitif anlamına gelse bile.
Rakip adaptasyonu. Sinyale karşı optimize edilen bir agent, onu tetikleyen özelliklerden kaçınmayı öğrenir. Yenilik tespiti, yenilik tanıdık hale geldikçe bozulur. Sinyalin periyodik olarak yeniden baseline'lanması gerekir ve yeniden baseline'lama da bir inceleme olayıdır.
Bu neyi değiştirir
Pratik kayma, tek seferlik bir değerlendirmeden sürekli işleyen bir değerlendirmeye geçiştir. Sicil hâlâ vardır, ancak canlı bir sinyale ve sinyal seviyelerini aksiyon kapılarına eşleyen bir politikaya işaretçi tutar. Tedarikçi konuşması bir skor kartı sun'dan bir sinyali mümkün kılan telemetriyi açığa çıkar'a dönüşür. İnceleme konuşması bu agent onaylı mı'dan bu çalışma ne yaptı ve bir eşiği aştı mı'ya dönüşür.
Bu, inşa etmesi daha zor ve satması daha zor bir iş akışıdır. Aynı zamanda agent'ın davranışı değiştikçe doğru kalan tek iş akışıdır ki değişecektir, çünkü içinde çalıştığı ortam da değişir.