Perplexity, bir AI güvenlik aracını açık kaynak olarak yayımladı; birden fazla kaynak, aracın tescilli bir ürün olarak elde tutulmak yerine bedava sunulacağını bildirdi. Aracın, AI agent'larını sınırlamak için kullanıldığı belirtiliyor — yani yalnızca model sınırında girdi ve çıktıları filtrelemek yerine, bir agent'ın çalışırken neler yapabileceğini kısıtlamak için.
Bu yayım, diğer sağlayıcıların sandboxing çalışmalarının yanı sıra sınırlamanın çalışma zamanı katmanına taşındığı daha geniş bir eğilimi takip ediyor. Agent sistemleri geliştiren ekipler için pratik önemi incelenebilirlik: açık kaynak bir sınırlama bileşeni doğrudan okunabilir, test edilebilir ve üzerinde akıl yürütülebilir; arıza modları yalnızca üretimde görülebilen opak bir kontrol düzlemi olarak ele alınmak zorunda kalmaz. Bu, bir agent'ın etrafındaki sınırların ölçülmesi gereken şeylerin bir parçası olduğu değerlendirme çalışmaları için önemlidir.
Haberlerden netleşmeyen nokta, aracın kapsamı, desteklediği çalışma zamanları ve çoklu agent veya tool call akışlarını nasıl ele aldığıdır. Duyurunun kendisi benchmark, garanti veya bir yönetişim modeli ortaya koymuyor; haberler de bir lisans veya yayım takvimi belirtmiyor. Aracı değerlendiren ekipler, doğruluk kaynağı olarak depoyu esas almalı ve bunlara güvenmeden önce uygulama sınırlarını kendileri doğrulamalıdır.
Kaynaklar: