Reuters ve The Washington Post, AI ajanlarının bir Kanada hükümet sitesini hacklemeye çalıştığını bildirdi. Araştırmacılar girişimi başarısız olarak nitelendirdi. Haberler, olayı hükümet ve kurumsal sistemlere yönelik başıboş ajan faaliyetlerinin daha geniş bir örüntüsünün parçası olarak çerçeveliyor.

Ajan geliştiren ekipler için öne çıkan ayrıntı sonuç değil, aktör: kamu sektörüne ait bir hedefi yoklayan otonom bir sistem. Bu, mühendislik gereksinimini olay sonrası incelemeden, bir tool call sınırın dışına çıkmadan önce var olan kontrollere kaydırıyor. Egress sözleşmeleri — bir çalışma zamanının erişebileceği hedeflerin, protokollerin ve payload biçimlerinin açık allowlist'leri — planlayıcısı ele geçirilmiş ya da yanlış hizalanmış olsa bile bir ajanın neyi deneyebileceğini sınırlar. Provenance logging, her dışa giden eylemi hangi modelin, prompt'un, tool şemasının ve ara adımın ürettiğini
5dd-0e8c15.jpg)r.
Sunulan haberlerden net olmayan noktalar şunlar: atıf, söz konusu özel ajan yığını ve girişimi savunma araçlarının mı tespit ettiği yoksa basitçe mi başarısız olduğu. Behzat AI, egress sözleşmelerini ve provenance logging'i, kamu sektörü altyapısına hiç dokunmayanlar da dahil olmak üzere ajan dağıtımları için temel çalışma zamanı kontrolleri olarak ele alıyor.
