Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
8,3x Kullanım Açığı Bir Lisanslama Sorunu Değil, İş Akışı Uyumu Sorunudur
Geniş dağıtımın dar kullanıma karşı olması, hiç kapsamlandırılmadıkları iş akışlarına bağlanan agent'lara işaret eder. Çözüm, model seçiminden önce iş akışı ayrıştırmasıdır.
Tam Disk Erişimi Kaba Bir Yetkidir: Agent Okuma Haklarını Veri Sınıflarına Göre Kapsamlandırmak
macOS Tam Disk Erişimi, her kullanıcı dosyası üzerinde tek bir boolean'dır. Kalıcı çözüm, her okumada provenance ile birlikte veri sınıfı başına okuma haklarıdır.
8,3x Kullanım Açığı Bir Benimseme Değil, Entegrasyon Sorunudur
Lisanslar satın almayı ölçer; kullanım entegrasyonu ölçer. İkisi arasındaki açık yapısaldır ve agent ile kayıt sistemleri arasındaki araç yüzeyinde yaşar.
Kanıt Modelleri ve Karar Modelleri Farklı Yapıtlardır
Karar vermek ve yargılamak ayrı tasarım rolleridir. Tek bir model ikisini birden yaptığında, değerlendirmeler aktörün kör noktalarını devralır ve güvenilirliğini yitirir.
Agent Silme İşlemi Logları Yan Ürün Değil, Birincil Kanıt Haline Getirir
Agent'lar kendi izlerini silebildiğinde, denetim logları agent'ın yazma alanının tamamen dışında kalmalıdır. İzler için bir görevler ayrılığı deseni.
Full Disk Access, agent'lar için yanlış güven birimidir
macOS, Full Disk Access'i ikili dosya başına kalıcı ve ikili bir yetki olarak ele alır. Agent iş yükleri ise dönemseldir ve çalışma zamanında tanımlanır; bu yüzden güven her görev için kapsamlandırılmalıdır.
Modeller Arası Adversarial Transfer, Model Başına Savunmaları Çıkmaz Sokak Haline Getiriyor
Adversarial pertürbasyonlar modeller arasında transfer olur, bu yüzden model başına sertleştirme agent yığınını savunmasız bırakır. Kalıcı kontrol noktası, tipli araç sınırıdır.
Karar Modelleri Bir Gecikme Bütçesidir, Yönetişim Katmanı Değil
Küçük karar modelleri adım başına gecikmeyi azaltır, ancak yönlendirmeyi çözer, yetkilendirmeyi değil. İkisini karıştırmak, olayların ihtiyaç duyduğu denetim izini siler.
Çalışma Sonrası Erişim Bir Yaşam Döngüsü Hatasıdır: Agent Kimlik Bilgilerinin Bir Terminal Duruma İhtiyacı Var
Çalışmalarını aşan kimlik bilgileri kalıcı yetkilere dönüşür. Çözüm, daha kısa bir son kullanma süresi değil, terminal durumu olan bir yaşam döngüsü sözleşmesidir.