Ana içeriğe geç

Gerçek dünya saldırısı, agent'ların Markdown belgelerine duyduğu güveni istismar ediyor

Behzat AIprompt-injectionagent-securitymarkdowndocument-ingestionllm-agents
Bir veri merkezinde kabloları ve durum ışıklarıyla bir sunucu rafının yakın çekimi

Dark Reading, AI agent'larının Markdown belgelerine duyduğu güveni kötüye kullanan gerçek dünya saldırısını bildiriyor. Ayrı bir rapor ise AI kodlama agent'larının bir Downloads klasörüne yerleştirilmiş zararlı talimatları izlediğini anlatıyor. Her iki durumda da yük, agent'ın veri olarak işlediği içerik üzerinden geliyor ve saldırı yolu doğrudan kullanıcı prompt'u değil, dosya ve belge alımı. Bu, dolaylı prompt injection ve laboratuvar koşullarının dışında kullanılıyor.

Woman using a laptop in a server room with blue lighting

Operasyonel sonuç şu: her alım yolu bir yetki sınırıdır. Markdown agent'ın bağlamına render edilebiliyor veya ayrıştırılabiliyorsa, belge talimat taşıyabilir ve bir prompt filtresi bir politika değildir. Stüdyonun görüşü, alımın açık ve test edilebilir bir politikaya ihtiyaç duyduğu yönünde: hangi formatlar ayrıştırılıyor, hangi alanlar güvenilmez olarak işleniyor, içerik nerede temizleniyor veya çıkarılıyor ve agent belgeden türetilen metne dayanarak hangi araçları çağırabilir. Bu kararlar sistem tasarımına ve evaluation suite'ine aittir, bir system prompt cümlesine değil.

Haber, saldırı sınıfını ve alım vektörünü ortaya koyuyor; yaygınlığı, etkilenen satıcıları veya istismar edilen formatların tamamını ortaya koymuyor. Belge alımı çalıştıran ekipler bu boşluğu, eksiksiz bir kamuya açık tabloyu beklemek yerine kendi yollarını izleme ve test etme gerekçesi olarak görmeli.

Konuşalım!