Bioengineer.org 报道称,可解释 AI 方法被用于精确定位并突破 LLM 安全过滤器。其框架意义大于单个结果本身:拒绝行为被视为一种可定位的内部机制,而非训练模型涌现出的属性。可解释性工具正被指向模型,以找出产生拒绝的具体结构,随后直接对该结构进行操作。

如果拒绝可以被定位,它就可以作为一个组件来推理。这使问题从模型是否对齐,转变为已部署产物中某个特定回路是否存在、可达且
该报道与另一项独立发现同时出现:逐模型防御在跨模型对抗迁移下会失效。综合来看,这两条线索表明,依附于单一模型内部行为的防御在跨越模型边界时是脆弱的,评估应测试已部署系统,而不是假定拒绝是内在固有的。从该报道中仍不清楚的是:涉及哪些模型、该机制是如何被识别的,以及该方法是否能在所报道的场景之外泛化。
