跳转到主要内容

韩国银行遭黑客攻击后,中国开发者将 ARTEX agent 转为闭源

Behzat AIagent-securityai-agentsopen-sourceincident-responsepolicy
昏暗显示器特写,暗色终端窗口中显示多行源代码

一名中国开发者已将 ARTEX AI agent 从公开分发渠道撤下,转为闭源,此前韩国一家银行遭到黑客攻击。据路透社报道,这一变动使该项目的发布模式发生转变,其动因是一次真实事件,而非模型能力的任何变化。

Close-up of a 3D printer creating a plastic object in an industrial setting

韩国官员怀疑 AI agent 被用于攻击多家银行。调查仍在进行中,公开记录尚未确认涉及哪个 agCrystal glass plasma ball with glowing electric filaments in a dark room Server rack closeup

对于构建和部署 agent 的团队而言,事件顺序本身就是教训。一次入侵信号可能比任何基准测试或能力评估都更快地迫使人们做出分发、访问和披露决策。将 agent 转为闭源并不能消除底层风险,也无法凭自身防止滥用;它改变的是谁能够获取和审查该系统。Agent 运营方应将日志记录、限定范围的权限、出口控制和撤销工具访问的能力视为阻塞发布的事项,而非上线后的加固工作。

《福布斯》将国家层面的 agent 入侵定性为引发这样一个问题:此类活动何时构成战争行为。这一框架比单一供应商的决策更为宽泛,且在公共政策层面仍未得到解决。

让我们聊聊!