跳转到主要内容

用于定位并突破 LLM 安全过滤器的可解释性方法

Behzat AIinterpretabilityllm-safetyred-teamingadversarial-transferagent-evaluation
电路板的微距照片,在定向光下显示走线、焊点和表面贴装元件。

Bioengineer.org 报道称,可解释 AI 方法被用于精确定位并突破 LLM 安全过滤器。其框架意义大于单个结果本身:拒绝行为被视为一种可定位的内部机制,而非训练模型涌现出的属性。可解释性工具正被指向模型,以找出产生拒绝的具体结构,随后直接对该结构进行操作。

Close-up of glowing fiber optic strands with purple and blue bokeh, stock photo

如果拒绝可以被定位,它就可以作为一个组件来推理。这使问题从模型是否对齐,转变为已部署产物中某个特定回路是否存在、可达且Abstract golden liquid metal texture with flowing, fluid patterns

该报道与另一项独立发现同时出现:逐模型防御在跨模型对抗迁移下会失效。综合来看,这两条线索表明,依附于单一模型内部行为的防御在跨越模型边界时是脆弱的,评估应测试已部署系统,而不是假定拒绝是内在固有的。从该报道中仍不清楚的是:涉及哪些模型、该机制是如何被识别的,以及该方法是否能在所报道的场景之外泛化。

让我们聊聊!