Son haberler, agent sistemlerine yönelik saldırı ve kötüye kullanım biçimlerinde bir değişime işaret ediyor. qz.com'a göre Çince konuşan bir saldırgan, 600.000 kredi kartı çalmak için AI agent'larını kullandı. Ayrıca The Hacker News, ele geçirilmiş ağların içinde yanal hareket playbook'larını yeniden yazmak için agent'ların kullanıldığını bildiriyor ve CIO Dive, her dört agent'tan birinin izlenmeden çalıştığı ve bunun operasyonel risk yarattığı bulgusuna atıfta bulunuyor. Araştırmacılar ayrıca, Help Net Security ve inc.com'un bildirdiğine göre, bir LLM panelinin bir sonraki saldırı adımını seçtiği kötü amaçlı yazılımları da tanımlıyor.
Bir arada ele alındığında bunlar, prompt-injection gösterileri değil operasyonel olaylardır. Ortak nokta, agent'ların gerçek kimlik bilgileri ve araç erişimiyle hareket etmesi ve kararlarının her zaman kaydedilmemesi veya sınırlandırılmamasıdır. Bu nedenle tespit ve kontrol altına alma, çalışma zamanının bir parçası olmalıdır: işlem bazında kayıt, kapsamlandırılmış kimlik bilgileri ve talimatları veya bağlamı manipüle edildiği
Sağlanan haberlerden net olmayan nokta, her olayın arkasındaki tam araç seti, model sürümleri ve dağıtım kalıpları ile dörtte bir oranındaki izlenmeyen agent rakamının nasıl ölçüldüğüdür. Behzat AI bu raporları, agent gözlemlenebilirliği ve çalışma zamanı guardrail'lerinin artık ek özellik değil temel gereksinim olduğunun kanıtı olarak değerlendiriyor.