跳转到主要内容

谁来审计审计者:责任框架假设存在纸质痕迹,而智能体并不留下

责任制度假设存在可归因的决策记录。当前的智能体架构产生的轨迹无法被重建为单一可问责的步骤。

数据中心内带有发光指示灯和结构化布线的服务器机架特写。

责任假设

针对自主系统的法律与监管框架建立在一个简单前提之上:当损害发生时,是某人选择了该行为。责任的归属通过将该选择追溯至授权它的委托人、配置它的部署者或构建它的开发者来确定。这一前提对传统软件成立,因为行为是确定性的,日志由执行它们的代码写入。但对 LLM 智能体并不成立。

智能体系统记录的是模型输出了什么,而非为什么。工具调用与观察的轨迹不是决策日志,除非每个行为都绑定到一项已声明的权限。没有这种绑定,就不存在归因,责任将默认归于部署者,无论故障源自何处。近期关于企业部署中智能体责任的报道说明了这些压力点 [1],而关于自主系统问责的平行讨论则凸显了法律期望与技术现实之间的差距 [2]。

结果是错配:法院和监管机构要求对决策建立监管链;而智能体框架产生的是一串 token 和 API 调用,无法被重放至单一可问责的步骤。

可归因记录需要什么

可归因记录不是一份转录。它是一组已签名、仅追加的条目,其中每个行为都携带其被采取时所依据的权限:哪个委托人、哪个范围、哪个策略版本。提示词和模型权重不是证据。它们是随机过程的输入。已签名的行为记录才是证据,因为它将行为绑定到一项授权,而该授权可以独立于产生它的模型进行验证。

考虑一个具体机制。在智能体调用工具之前,运行时构造一条行为记录,包含以下字段:

{
  "action_id": "act_01H...",
  "principal": "user:[email protected]",
  "delegation_chain": ["grant_01", "grant_02"],
  "scope": "payments:read",
  "policy_version": "policy_2025_04_01",
  "tool": "ledger.read",
  "args_hash": "sha256:...",
  "timestamp": "2025-04-01T12:00:00Z",
  "signature": "ed25519:..."
}

Close-up of a porous rock surface with natural texture lit by sunlight

运行时使用由智能体主机控制的密钥对记录签名。该记录被追加到防篡改日志中,例如哈希链,其中每个条目都包含前一条目的摘要。验证不需要模型。它需要公钥和日志。

这是一种带有权衡的设计选择。对每个行为签名会增加延迟和密钥管理开销。它还迫使运行时在行为发生时就知道委托人和范围,这在上下文共享的多智能体系统中并不总是简单。另一种做法,即事后记录,产生的记录无法经受对抗性审查,因为它们可能被生成它们的同一进程篡改。

从委托人到行为的链条

在多智能体系统中,委托往往是隐式的。父智能体生成子智能体,传递上下文窗口,子智能体使用从父智能体继承的凭据调用工具。没有交接记录。没有引用父智能体的授权。子智能体在未声明的情况下依据父智能体的权限行事。

这是责任的核心失效模式。当子智能体采取有害行为时,记录显示的是来自某个进程的工具调用,而不是来自委托人的委托。父智能体的权限是不可见的。重建在子智能体处停止,责任默认归于部署者,因为无法识别其他委托人。

解决办法是显式的交接记录。依据父智能体权限行事的子智能体应引用父智能体的授权,而不是静默继承凭据。交接记录应包含父智能体的行为 ID、被委托的范围以及该范围的任何衰减。例如:

{
  "handoff_id": "hand_01H...",
  "parent_action": "act_01H...",
  "child_agent": "agent:research-01",
  "delegated_scope": "search:read",
  "attenuated_from": "search:read,search:write",
  "po![Aerial vi![Aerial view of freight trains in a railway yard, showing industrial logistics](/media/freight-train-tracks-aerial-317bf1-f99e0d.jpg)

撤销必须沿链条传播并作为事件记录。如果委托人撤销了一项授权,该撤销之后的所有后代行为都应无效。日志应包含带有授权 ID 和时间戳的撤销事件。没有这一点,被撤销的智能体可以继续行事,而记录将显示看似已授权但实际上并未授权的行为。

权衡是复杂性。显式委托链要求运行时跨智能体跟踪授权、执行衰减并传播撤销。共享上下文窗口更简单,但产生的记录无法回答法院将会提出的问题:该行为是在谁的权限下发生的?

## 为法庭而设计

行为日志必须被视为一等工件,与智能体定义一同进行版本管理。当智能体的策略或工具集发生变化时,日志应记录每个行为发生时生效的版本。这允许在没有原始模型的情况下进行重建。记录必须能够独立存在:拥有日志、公钥和策略版本的验证者应能确定发生了什么以及在谁的权限下发生,即使模型已被弃用或不可用。

保留策略是法律输入,而不是基础设施默认值。保留期限应由适用于智能体所在领域的法律与合规要求设定,而不是由存储成本决定。对于受监管行业的智能体,保留期可能以年计。日志格式应支持导出为法律团队可以审查的格式,并且哈希链应可独立验证。

在没有原始模型的情况下重建是一项硬性要求。如果记录依赖重放模型来解释行为,它就不是记录。它是模拟。模拟不是证据。记录应包含足够的信息来回答:哪个委托人授权了该行为,依据哪个范围,依据哪个策略版本,以及该权限在当时是否有效。

这种方法有成本。它需要在运行时插桩、密钥管理和日志存储方面进行投入。它会减慢行为执行。它迫使团队在部署之前而非之后定义范围和策略。但另一种选择是一种无法运作的责任制度,因为纸质痕迹并不存在。问题不是是否要构建可归因记录。问题是当记录缺失时,谁来审计审计者。

_封面照片:panumas nikhomkhai / Pexels。_
分享XLinkedIn永久链接5 分钟阅读

相关阅读

这能回答的问题

Why do current agent architectures fail liability requirements?

They record what the model emitted, not why. A trajectory of tool calls and observations is not a decision log unless each action is bound to a declared authority. Without that binding, liability defaults to the deployer.

What makes an action record attributable?

It is signed, append-only, and carries the authority under which the action was taken: principal, scope, and policy version. Prompts and model weights are not evidence; signed action records are.

How should delegation work in multi-agent systems?

Sub-agents should cite the parent's grant in an explicit handoff record, not inherit credentials silently. Revocation must propagate along the chain and be recorded as an event.

Can a record be reconstructed without the original model?

Yes, if the record stands alone. A verifier with the log, public keys, and policy versions should determine what happened and under whose authority, even if the model is deprecated.