Brezilya mahkemesi, bir mahkeme dosyasının içine prompt injection yerleştiren avukatlara yaptırım uyguladı. Sunulan habere göre dosya, belgenin otomatik incelenmesini etkilemeye çalışıyordu. Yaptırımlar, agent pipeline'larına yönelik injection girişimlerine karşı yanıtı yalnızca filtrelemeye veya model davranışına bırakmak yerine hukuki bir yaptırım yolu oluşturuyor.
Bu dava önemli çünkü girdi işlemeyi bir mühendislik tercihinden uyumluluk sorununa taşıyor. Bir belgeyi, bir tool yanıtını veya getirilen bir kaydı okuyan agent, güvenilmeyen veri işliyordur ve bu verinin içindeki talimat benzeri her metin içerik olarak ele alınmalı, asla yetki olarak değil. Bir pipeline bu sınırı koruyamadığında, ortaya çıkan sorun artık yalnızca bir kalite kusuru değildir: üçüncü taraflar payload taşıyan bir dosyaya, sözleşmeye veya mesaja işaret edebilir. Düzenlemeye tabi veya çekişmeli ortamlarda çalışan ekipler, her pipeline için güvenilmeyen girdinin nereden girdiğini, hangi bileşenlerin onun üzerinde işlem yapabileceğini ve gömülü talimatların bir planner'a veya tool call'a ulaşmasını neyin engellediğini gösterebilmelidir.
Pratik yön, ayrıştırma ve izlenebilirliktir: getirilen metni ve tool çıktısını sistem talimatlarını değiştiremeyen bir veri kanalında tutun, bir karar noktasına ulaşan her girdinin kaynağını loglayın ve pipeline'ları kasıtlı olarak talimat benzeri metin içeren belgelerle test edin. Sunulan haber, yargı yetkisini, usuli durumu, uygulanan spesifik yaptırımı veya kararın tarihini belirtmiyor; bu ayrıntılar doğrulanmamış olarak kalıyor. Kaynak: JetStream Security.