巴西一家法院因律师在提交法院的文件中嵌入提示注入而对其作出制裁。根据所提供的报道,该文件试图影响对文档的自动化审查。这些制裁为针对 agent 流水线的注入尝试确立了法律救济途径,而不是仅将应对措施留给过滤机制或模型行为。

此案之所以重要,是因为它把输入处理从工程偏好变成了合规问题。agent 在读取文档、工具响应或检索记录时,处理的是不可信数据,而这类数据中任何类似指令的文本都必须被视为内容,绝不能被视为权威。当流水线无法守住这一边界时,失败就不再只是质量缺陷:第三方可以指出某份文件、合同或消息携带了载荷。在受监管或对抗性环境中运营的团队应当能够按流水线说明:不可信输入从何处进入、哪些组件可能对其采取行动,以及是什么阻止嵌入的指令到达 planner 或 tool call。
实际方向是隔离与可追溯性:将检索文本和工具输出保留在无法更改系统指令的数据通道中,记录到达决策点的每个输入的来源,并针对故意包含类似指令文本的文档测试流水线。所提供的报道未说明司法辖区、程序阶段、具体制裁措施或裁决日期,因此这些细节仍未得到确认。来源为 JetStream Security。
