Ana içeriğe geç

İndirilenler klasöründeki kötü amaçlı dosya, AI kodlama agent'ını dolaylı injection ile hedef aldı

Behzat AIagent-securityprompt-injectionindirect-injectionlocal-filesystemllm-agents
Karanlık bir monitör ekranında görüntülenen kaynak kodu satırlarının yakın çekimi

İndirilenler klasörüne yerleştirilen kötü amaçlı bir dosya, bir AI kodlama agent'ını hedef alarak onu kötü amaçlı yazılım yüklemeye kandırmaya çalıştı. Teknik, ağ yolundan ziyade yerel dosya bağlamı üzerinden dolaylı injection'a dayanıyor; bu da saldırı yüzeyini çoğu prompt düzeyindeki savunmanın varsaydığından daha yakın bir noktaya, agent'ın kendi çalışma ortamına taşıyor.

Loş bir odada programlama kodu içeren kod düzenleyicisinin göründüğü dizüstü ekranı

Yerel dosya sistemini okuyan agent'ları çalıştıran ekipler için bu bulgu, girdi kanalını yeniden çerçeveliyor. Depo dosyalarını, önbelleğe alınmış indirmeleri veya geçici notları işleyen bir agent, bu içeriği bağlam olarak ele alır ve içindeki talimat biçimindeki her metin, operatörün gerçek prompt'uyla rekabet eder. Bu nedenle güven sınırının yalnızca konuşmanın değil, verinin kendisinin etrafında çizilmesi gerekir. Somut olarak bu, dosya kaynaklarının etiketlenmesi, güvenilmeyen okumaların araç tarafından yetkilendirilmiş eylemlerden ayrılması ve bir dosyanın etkileyebileceği herhangi bir kurulum veya yürütmeden önce açık bir onay adımının zorunlu kılınması anlamına gelir.

Haberlerden netleşmeyen noktalar, söz konusu agent ve dosya biçimi, tam payload yolu ve girişimin başarılı olup olmadığı ya da engellenip engellenmediğidir. Bu ayrıntılar maruziyetin kapsamını belirlemek için önemlidir; bu nedenle stüdyo, bildirilen davranışı tek ürünlük bir olay yerine sınıf düzeyinde bir sinyal olarak ele alıyor. Agent sistemleri için evaluation paketleri, ağ üzerinden gelen vakaların yanı sıra yerel dosya injection vakalarını da içermeli ve agent'ın yalnızca okuduğu içerikte bulduğu talimatlara göre hareket etmeyi reddetmesini doğrulamalıdır.

Konuşalım!