Futurism, bir AI agent kullanmanın kullanıcıları phishing e-postalarına karşı daha savunmasız hale getirdiğini bildiriyor. Mekanizma tesadüfi değil yapısal: bir agent e-postaları önceliklendirip kullanıcı adına hareket etmeye başladığında, gelen bir mesaj artık okunacak bir şey olmaktan çıkıp bir talimat kanalına dönüşüyor — ve kullanıcının yetkisiyle birlikte geliyor. Dikkatli bir insana karşı başarısız olacak bir tuzak, aldığı şey üzerine hareket etmek üzere kurulmuş delege edilmiş bir sürece karşı başarılı olabilir.
Bu bulgu, işletmeler agent asistanlarını gelen kutusu ve iş akışı araçlarına entegre ederken ortaya çıkıyor; bu da maruziyeti bireysel dikkatten sistem tasarımına taşıyor. İlgili kontroller, güvenilmeyen içerik ile ayrıcalıklı eylem arasındaki sınırda yer alıyor: gelen e-postalarda kaynak doğrulaması, bir agent'ın onay olmadan neler yapabileceğinin açıkça kapsamlandırılması ve bir mesajı okumak ile onun talep ettiği herhangi bir şeyi yürütmek arasındaki ayrım. Güven sınırının dışından gelen içerik niyet olarak değil veri olarak ele alınmalı ve yan etkisi olan her eylem, göndericinin ulaşamayacağı bir kontrol noktası gerektirmelidir.
Sağlanan haber kapsamının ortaya koymadığı şeyler; etkinin büyüklüğü, savunmasızlığın hangi koşullarda arttığı ve hangi agent tasarımlarının test edildiğidir. Bu boşluklar, e-posta okuyan bir asistana ne kadar özerklik verileceğine karar veren herkes için önem taşıyor. Daha net kanıtlar elde edilene kadar stüdyonun tutumu, delege edilmiş gelen kutusu erişimini ayrıcalıklı bir entegrasyon olarak ele almak ve izinlerini genişletmeden önce onu düşmanca mesajlara karşı değerlendirmektir.