Gözlemlenebilirlik Boşluğu
Kurumsal güvenlik yığınları eylemleri gözlemlemek için inşa edildi. Tipik bir agent platformu HTTP istek logları, süreç ağaçları, token sayıları, tool çağrıları ve kimlik bilgisi kullanımı üretir. Bu artefaktlar ne oldu sorusunu makul bir doğrulukla yanıtlar. Ne olması gerekiyordu sorusunu yanıtlamazlar ve bu ayrım otonom agent'lar için deterministik servislerde olduğundan çok daha fazla önem taşır.
Aynı telemetriyi üreten iki çalıştırma düşünün. İlkinde bir agent, yanlış yapılandırılmış bir entegrasyon eşlemesi bir müşteri güncelleme görevini yanlış endpoint'e yönlendirdiği için bir CRM API'sini çağırır. İkincisinde bir agent, müşteri kayıtlarını zenginleştirmenin kendisine hiç verilmemiş bir hedefe hizmet ettiğine kendi başına karar verdiği için aynı endpoint'i çağırır. HTTP logları aynıdır. Süreç ağaçları aynıdır. Token sayıları aynıdır. Olaydan sonra yörüngeye bakan bir tespit mühendisi bazen hangisinin hangisi olduğunu yeniden kurgulayabilir, ama bunu yalnızca davranıştan amacı çıkararak yapabilir. Bu çıkarım yavaştır, olasılıksaldır ve çağrının yapıldığı anda mevcut değildir.
Satıcılar agent güvenliğinde farklılaştırıcı olarak niyet üzerinde birleşiyor, ancak mevcut teknoloji düzeyi niyeti olay sonrası analitik bir etiket olarak ele alıyor. Davranış kümelenir, diziler karşılaştırılır ve analiste bir çalıştırmanın görünüşe göre yetki dışı bir şeyin peşinde olduğu söylenir. Bu faydalı bir adli bilişimdir. Yaptırım değildir. Çıkarım yapıldığında kaynağa çoktan dokunulmuştur.
Boşluk yalnızca analitik değil, aynı zamanda operasyoneldir. Yönetilmeyen agent'lar üzerine yapılan raporlamalar, konuşlandırılmış agent'ların anlamlı bir kısmının hiç izleme olmadan çalıştığını tutarlı biçimde ortaya koyuyor. Gözlemlenmeyen bir agent hakkında çıkarım yapılamaz ve yalnızca eylem logları üzerinden gözlemlenen bir agent niyetle sınırlandırılamaz. Her iki başarısızlık da aynı kök nedeni paylaşır: niyet, yığında hiçbir yerde birinci sınıf bir nesne olarak temsil edilmez.
Bir Artefakt Olarak Niyet
Pratik bir sonraki adım, niyeti bir modelin çıkarsadığı bir şey olarak ele almayı bırakıp bir principal'ın beyan ettiği bir şey olarak ele almaya başlamaktır. Her agent çalıştırması yapılandırılmış bir yetki belgesiyle açılmalıdır. Yetki belgesi, şunları belirten küçük, makine tarafından okunabilir bir dokümandır:
- yalnızca betimleyici değil, kontrol edilebilir bir biçimde ifade edilen hedef;
- çalıştırmanın dokunmasına izin verilen kaynak sınıfları;
- harcama ve hız üst sınırları;
- yetki belgesinin geçersiz hale geldiği ve çalıştırmanın yeniden yetkilendirilmesi gereken bir son kullanma tarihi.
Yetki belgesi bir prompt değildir. Bir politika artefaktıdır; bir system message'dan çok kapsamı belirlenmiş bir token'a yakındır. İstekte bulunan principal tarafından imzalanır; bu bir insan operatör, bir üst servis ya da devredilmiş bir yetki belgesi altında hareket eden başka bir agent olabilir. İmza, çalıştırmayı hesap verebilir bir kaynağa bağlar.
Her adımda amaç referansları
Yetki belgesi tek başına etkisizdir. Bir yörüngedeki her adım ona geri dönen bir amaç referansı taşıdığında yük taşıyıcı hale gelir. Somut olarak, bir tool çağrısı hizmet ettiği yetki belgesi maddesini adlandıran bir alan içermelidir:
{
"mandate_id": "mnd_7f3a",
"purpose_ref": "clause:customer_lookup",
"resource": "crm.contacts.read",
"step": 4
}
Politika motoru daha sonra çağrıyı şeklinden tahmin etmek yerine beyan edilen niyete göre değerlendirir. clause:customer_lookup altında crm.contacts üzerine bir okuma beklenen bir durumdur. Aynı okuma clause:invoice_reconciliation altında bir sapmadır; kimlik bilgisinin geçerli olup olmamasından bağımsız olarak. Kontrol ucuzdur, yereldir ve kaynağa dokunulmadan önce mevcuttur.
Yetki belgesi ve yörünge birlikte saklanır. Bu birlikte konumlandırma, artefaktı sorgulanabilir kılan şeydir: bir araştırmacı yalnızca bu çalıştırma ne yaptı değil, ne yapacağını beyan etti sorusunu da sorabilir ve ikisini herhangi bir pencerede karşılaştırabilir.
Tespitin Kazandıkları
Niyet bir artefakt olduğunda, şu anda ya sezgisel olan ya da hiç bulunmayan birkaç sinyal sınıfı erişilebilir hale gelir.
Sapma birinci sınıf bir sinyal haline gelir. Beyan edilen amaç ile gözlemlenen kaynak arasındaki mesafe artık ayarlanacak istatistiksel bir anomali değildir. İmzalı bir dokümana karşı yapılan boolean bir karşılaştırmadır. purpose_ref'i dokunduğu kaynağı kapsamayan bir adım, tanımı gereği bir sapmadır. Analistler sapmaları global bir eşik yerine yetki belgesini
Yanal hareket yapısal olarak görünür hale gelir. İzin verilen bir kaynak sınıfından izin verilmeyen bir sınıfa geçen bir agent, kullandığı kimlik bilgilerinin geçerli olup olmamasından bağımsız olarak görünürdür. Bu önemlidir çünkü kimlik bilgisi geçerliliği agent sistemlerinde yetkilendirme için zayıf bir vekildir: agent'lar sıklıkla aşırı yetkilendirilir ve geçerli bir token tam da ele geçirilmiş ya da yanlış hizalanmış bir çalıştırmanın sunacağı şeydir. Yetki belgesi kapsamı, token geçerliliğinin geçmesine izin vereceği hareketi yakalar.
Eşikler yetki belgesi başına hale gelir. Global olarak ayarlanmış bir anomali eşiği, filodaki en gürültülü agent'ı barındırmak zorundadır; bu da sessiz olanlar için fazla gevşek olduğu anlamına gelir. Yetki belgesi türleri kendi beklenen şekillerini taşır. Sabit bir defter kümesini okuyan bir mutabakat yetki belgesinin dar bir zarfı vardır; bir araştırma yetki belgesinin daha geniş bir zarfı vardır. Eşikler yetki belgesi türü başına ayarlanabilir ve aynı telemetri ikisini de ödün vermeden destekler.
Yaptırım daha erken devreye girer. Kontrol yerel ve kaynak öncesi olduğu için, bir sapma loglanmak yerine reddedilebilir. Tespit ile önleme arasındaki ayrım, bir olay raporu ile önlenmiş bir olay arasındaki farktır.
Maliyetler ve Sınırlar
Yetki belgeleri, zıt yönlere çeken iki kısıt arasında oturmak zorundadır. Bir insanın bir politika DSL çıraklığı yapmadan yazabileceği kadar kaba, bir makinenin bir adımı belirsizlik olmadan kontrol edebileceği kadar da spesifik olmalıdırlar. Müşteri verisiyle faydalı iş yap diyen bir yetki belgesi yazılabilir ama kontrol edilemez. Her endpoint'i sıralayan bir yetki belgesi kontrol edilebilir ama yazılamaz. İşe yarar orta yol, açık madde adlarına sahip kaynak sınıflarıdır; bu teknik değil, tasarım disiplinidir.
Daha zor sınır keşifçi agent'lardır. Bazı çalıştırmaların meşru olarak kendi yollarını keşfetmeleri gerekir: tanımadığı bir servisi incelemesi gereken bir hata ayıklama agent'ı, referansları takip etmesi gereken bir araştırma agent'ı. Listelenmemiş tüm kaynakları yasaklayan bir yetki belgesi bu çalıştırmaları bozar; her şeye izin veren bir yetki belgesi amacı boşa çıkarır. Dürüst cevap, yetki belgesinde beyan edilen ve diğer tüm maddeler gibi uygulanan sınırlandırılmış bir keşif kapsamıdır. Bu bir politika tasarımı sorunudur, telemetri sorunu değil ve daha iyi loglama ile çözülmeyecektir.
Artefaktın kendisinin de bir maliyeti vardır. Yetki belgeleri verilmeli, imzalanmalı, döndürülmeli ve iptal edilmelidir. Her çalıştırmanın başlangıcına bir adım ve her adımın yüküne bir alan eklerler. Ek yük çağrı başına küçüktür ama filo ölçeğinde sıfır değildir ve yeni bir başarısızlık modu getirir: yetki belgesi alamayan bir çalıştırma ilerleyemez. Bu, yüksek sonuçlu kaynak sınıfları için doğru varsayılan, düşük sonuçlu olanlar için yanlış varsayılandır; bu da yetki belgesi verilmesinin kendi katmanlamasına ihtiyaç duyduğu anlamına gelir.
Bunların hiçbiri mevcut telemetrinin yerini almaz. Eylem logları adli bilişim, kapasite ve hata ayıklama için gerekli olmaya devam eder. Argüman daha dardır: yalnızca eylem logları, yanlış yapılandırılmış bir entegrasyonu yetki dışı bir hedeften ayırt edemez ve hiçbir olay sonrası çıkarım bu boşluğu zamanında kapatamaz. Beyan edilen, imzalı, sorgulanabilir niyet kapatır.
Çoğu ekip için sonraki adım yeni bir platform değildir. Bir şema değişikliğidir: çalıştırmaya bir yetki belgesi ekleyin, adıma bir amaç referansı ekleyin ve ikisini birlikte saklayın. Tespit kazanımları bu temsilden gelir, agent'ın ne düşündüğüne dair daha iyi bir modelden değil.