分析单元发生变化
关于境外影响力行动的讨论，大多仍以帖子作为分析单元。分类器读取一段文本，对其危害打分，审核员据此采取行动。当影响力行动的瓶颈是人的注意力时，这个框架是够用的：撰写一个可信的人设、在数周内维持它、并让它适应平台规范，都要耗费人力。到了智能体规模，瓶颈转移了。边际帖子的成本变得极低，而边际可信人设成了稀缺资源。防御设计应当追随稀缺性，而不是追随产物。
本文主张，智能体规模的协同虚假行为最好被理解为一个吞吐量问题。持久的对策不是更好的内容分类器，而是一组速率、身份与图谱控制，把维持每一个可信人设的成本抬高到运营者不愿支付的水平之上。
智能体规模下发生了什么变化
当生成被自动化后，有三个属性发生转变。
数量不再带来成比例的成本。 人类运营者每天产出的帖子数量有限。生成流水线则能产出平台愿意接受的任意数量，其成本主要由推理和基础设施决定，而非写作者的时间。产出与运营者工时之比不再大致恒定。
一致性不再依赖技艺。 人设维护过去是一项技能：保持语气稳定、记住此前的说法、在漫长的历史中避免自相矛盾。如今这是一个状态管理问题。人设是一个配置对象——一段系统提示、一个记忆存储、一份发帖计划、一组话题约束。一致性是流水线的属性，而不是写作者的属性。
适应不再有延迟。 当平台改变其排序或执法方式时，人类网络需要时间才能察觉并调整。而经过埋点监测的流水线可以在很短的周期内探测、测量响应并重新调参。反馈回路收紧了。
实际后果是：任何依赖单条帖子内容可被检测出错误的防御，都会被甩在后面。内容对攻击者来说是最廉价的可变项，对防御者来说却是大规模裁决中最昂贵的部分，因为裁决需要上下文、判断力，极端情况下还需要人工审核。这种不对称有利于攻击者。
身份认证与账号年龄加权
如果平台能够区分那些承载了某种可验证成本的账号——持久身份、设备历史、支付关系、需要时间积累的声誉——那么未认证账号的触达就可以在不做任何内容判断的情况下被抑制。这不是对思想的审查，而是关于未验证行为者默认获得多少放大的陈述。
其机制是一个加权函数，而非二元闸门。账号的帖子以由认证强度和账号年龄推导出的乘数进入排序。一个新的、未认证的账号仍然可以发帖；它只是不继承成熟账号的分发能力。合法新用户会感受到起步更慢，这是真实的成本。这个取舍是诚实的：年龄与认证加权在压制合成账号的同时也压制了真实的新来者，并且不利于那些较不可能持有平台所接受的认证凭据的人群。这一成本必须被审慎权衡，而不能被轻描淡写地略过。
图谱层面的检测
内容分类器看到的是帖子。图谱方法看到的是帖子之间的关系——而这些关系要廉价地伪造，难度大得多。
有两种特征尤其有用。
同步的时间。 自动化账号常常以在统计上不同于有机行为的突发方式行动：近乎同时发帖、到达间隔时间相关、在短窗口内协同放大。检测这一点不需要读取内容，而需要将候选簇的时间分布与有机活动的基线进行比对。其机制是对事件时间戳做一次聚类，并设定时间一致性的阈值。
共享的基础设施特征。 由同一流水线运营的账号往往共享可观测的底层特征：注册模式、客户端指纹、网络段，或特征性的请求序列。这些本身不是证据——共享基础设施也出现在企业网络和共用设备等合法场景中——但当与时间一致性结合时，它们是强有力的先验。
一条具体的流水线大致如下：
1. 摄入带有行为者、时间戳、客户端、网络元数据的帖子与互动事件
2. 在滑动窗口上按时间一致性构建候选簇
3. 对每个簇在基础设施重叠度和行为相似度上打分
4. 对簇成员施加分级触达抑制，等待复核
5. 将确认的簇作为标注样本回馈给下一轮
关键属性在于，第 2 步和第 3 步不读取帖子文本。它们作用于协同信号，而协同信号是自动化本身的副产品。运营者可以重写每一条帖子，却仍然发出相同的时间与基础设施模式。
通过摩擦施加成本
摩擦是最直接的杠杆，也最容易被误用。设计目标是：合法用户能容忍，而账号农场无法大规模承受。
以下只是形态示例，而非具体做法：一次性成本低、批量成本高的挑战；对突发行为有约束、对人类节奏无约束的速率限制；要求人设先积累历史才能放大他人的规则。每一项都对每个人设施加成本。运营数千个人设的农场要支付数千次；运营一个人设的人只支付一次。
吞吐量框架的价值正在于此。防御者不需要识别出每一个虚假账号。防御者需要的是让可信人设的边际成本超过运营者的预算。如果一个人设必须积累年龄、通过间歇性挑战、并避免与其同类账号出现时间一致性，那么运营者能维持的人设数量就会下降——即便其中没有任何一个能被单独检测出来。
局限与诚实的取舍
这一切都不是解决方案。检测是一场军备竞赛，而攻击者的适应回路很短。时间特征可以被抖动，基础设施可以被多样化，认证在时间和账号足够的情况下也可以被农场化。这里描述的每一项控制都有反制手段，而反制手段终将被找到。
因此，持久的优势不是检测率，而是攻击者成本曲线的斜率。那些抬高每个可信人设边际成本的控制——认证、年龄加权、时间一致性、分级摩擦——会复利式累积。一个必须投资于养号、多样化基础设施、去同步行为的运营者，是在为开销而非触达花钱。这对他们来说是更差的生意，而这正是防御者应当优化的结果。
还有第二个取舍值得直说。这些控制作用于行为和基础设施，而非言论。这既是它们的优势——它们对内容变化具有抵抗力——也是它们的风险。速率限制、认证要求和基于图谱的抑制，都会不成比例地落在边缘和不熟悉的用户身上。一个在部署这些控制时不做测量的平台，会在声称压制操纵的同时压制合法参与。这些控制应当就其两类人群的影响进行评估，而评估结果应当公开。
该构建什么
实际的建议是：不要再把影响力行动当作一个以分类模型为核心的内容审核问题，而要开始把它当作一个以成本模型为核心的吞吐量问题。具体而言：
- 将协同信号——时间、基础设施、互动图谱——作为一等数据来埋点采集，而不是当作事后调查工具。
- 按身份认证和账号年龄对触达加权，并测量对新合法用户的附带影响。
- 施加分级摩擦，使其成本随运营者维持的人设数量而扩展。
- 把可信人设的边际成本视为真正重要的指标，并设计能抬高它的控制。
内容分类仍有其作用。它能捕捉内容本身就是危害的情形。但对于智能体规模的协同虚假行为，内容恰恰是攻击者能最廉价地控制的变量。真正持久的防御作用于自动化无法使其免费的东西：时间、身份，以及流水线无论有意与否都会发出的协同模式。
封面照片：panumas nikhomkhai / Pexels。