OpenAI ve Polonya'nın NASK enstitüsü, yapay zekâ güvenliği ve emniyeti araştırmalarını kapsayan bir iş birliği anlaşması imzaladı. Haberlerde, anlaşma imzalanmadan önce Temmuz ayında yapılan bir pilot çalışmanın altı router açığı ortaya çıkardığı ve anlaşmanın model erişiminin ötesine geçerek ortak araştırma çalışmalarını kapsadığı belirtiliyor. Bu düzenleme, OpenAI üzerinde güvenlik izlemesinde eksiklikler bildiren üç haftalık bir yerinde denetimin ardından geldi.
Router bulguları, operasyonel açıdan ilginç olan kısım. Router'lar, bir model ile modelin erişmesine izin verilen araçlar, servisler ve ağlar arasındaki sınırda yer alır; bu da onları model kalitesi meselesinden ziyade agent'lara bakan bir yüzey haline getirir. Bu yüzeyi denetlemek; açık uç noktaları listelemek, isteklerin nasıl kimlik doğrulandığını ve kısıtlandığını kontrol etmek ve talimatlar ile yapılandırma birbirinden ayrıştığında bir agent'ın nereye erişebildiğini test etmek anlamına gelir. Bir pilot çalışmada bulunan altı açık, ele alınabilir ve somut bir iş kalemidir — prompt red-teaming'inden ziyade yüzey numaralandırmasından çıkan türden bir bulgu.
Agent sistemleri tedarik eden veya devreye alan ekipler için üçüncü taraf güvenlik iş birliği, olması iyi olan bir şeyden bir değerlendirme ve tedarik gereksinimine dönüşüyor. Alıcılar giderek daha sık olarak sınırı kimin denetlediğini, nelerin kapsamda olduğunu ve bulguların devreye almadan önce giderilip giderilmediğini soruyor. Sağlanan haberlere göre NASK anlaşması kapsamı, takvimleri veya yayımlanacak çıktıları belirtmiyor; bu ayrıntılar belirsizliğini koruyor. Net olan şey yön: agent'lara bakan altyapının bağımsız denetimleri, model kıyaslamasının sonradan düşünülen bir parçası olmaktan çıkıp sistemlerin nasıl değerlendirildiğinin bir parçası haline geliyor.