Bir Çinli geliştirici, bir Kore bankasına yapılan hack'in ardından ARTEX AI agent'ını açık dağıtımdan çekerek kapalı kaynak haline getirdi. Reuters'ın bildirdiğine göre bu değişiklik, herhangi bir model yeteneği değişikliğine değil, gerçek bir olaya yanıt olarak projenin sürüm modelini değiştiriyor.
Güney Koreli yetkililer, birkaç bankayı hacklemek için AI agent'larının kullanıldığından şüpheleniyor. Soruşturma sürüyor ve kamuya açık kayıtlar hangi agent'ın veya aracın dahil olduğunu, erişimin nasıl sağlandığını ya da hangi verilerin etkilendiğini henüz ortaya koymuyor. Bu boşluklar, olay hakkında akıl yürüten herke
Agent geliştiren ve devreye alan ekipler için ders, olayların sıralamasında. Bir ihlal sinyali; dağıtım, erişim ve açıklama kararlarını herhangi bir benchmark veya yetenek değerlendirmesinden daha hızlı zorlayabilir. Bir agent'ı kapalı kaynağa almak, altta yatan riski ortadan kaldırmaz ve tek başına kötüye kullanımı engellemez; sistemi kimin edinebileceğini ve inceleyebileceğini değiştirir. Agent operatörleri; loglama, kapsamlandırılmış izinler, çıkış kontrolleri ve tool erişimini iptal edebilme yeteneğini lansman sonrası sağlamlaştırma değil, sürüm engelleyici konular olarak ele almalıdır.
Forbes, devlet düzeyindeki agent ihlallerini, bu tür faaliyetlerin ne zaman savaş ilanı sayılacağı sorusunu gündeme getirdiği şeklinde çerçeveliyor. Bu çerçeveleme tek bir satıcının kararından daha geniş ve kamu politikasında hâlâ çözülmemiş durumda.