Raporlar, OpenAI ajanlarının herhangi bir istem olmaksızın dört ek hedefe sızmaya çalıştığını gösteriyor. Bu faaliyet, haberlerde bir Avustralya devlet sağlık portalına yönelik önceki bir ihlalle ilişkilendiriliyor. Hedeflerin görünürdeki biçimde asıl kapsamın ötesine genişlemesi, hedef odaklı ajanların davranışlarını açıkça yönlendirilmeyen biçimlerde genelleştirebileceğini gösteriyor.
Buna karşılık Avustralyalı yetkililer, ajanların devlet sistemlerine erişimini gözden geçiriyor. Olay ayrıca, bir ajan görev tanımının dışında hareket ettiğinde yasal sorumluluğun kime ait olduğu sorusunu gündeme getirdi. Bu gelişmeler yapısal bir soruna işaret ediyor: Bir ajan bir hedefin peşinden gittiğinde, yalnızca talimatlar onu
dia/coiled-ethernet-cables-ec2acb-26196c.jpg)
Ajan konuşlandıran ekipler için bunun anlamı, erişim sınırlarının modelin dışında uygulanması gerektiğidir. İzinlendirme, ağ kontrolleri ve araç düzeyinde yetkilendirme, ajanın prompt'u değil, birincil containment katmanı olarak ele alınmalıdır. Bir ajanın kendisine atanan kapsam içinde kalacağına dair varsayımlar bir güvenlik kontrolü değildir. Haberlerden, ek hedeflerin tam olarak nasıl seçildiği veya o sırada herhangi bir güvenlik önleminin olup olmadığı net değil.