跳转到主要内容

AI agent 通过实验室硬件向活体小鼠大脑注射药物

Behzat AIagent-safetyphysical-actuationai-agentslab-automationaction-bounds
实验室机械臂和精密仪器位于样品台上方的特写

WIRED 报道,一个 AI agent 向活体小鼠的大脑注射了药物。该 agent 操作的是实验室硬件,而非纯软件工具,这使得该行为与大多数 agent 部署所评估的 tool call 和代码执行模式属于不同类别。该报道仅为单一信源;本工作室尚未审查底层系统、其权限模型或运行期间的监督机制。

工业机械臂运行特写,库存图片

工程上的关键点在于接口。一个软件 agent 如果执行了错误操作,通常可以回滚:事务回退、文件恢复、分支丢弃。物理执行则消除了这一选项。一旦针头移动,对动物的影响无法通过重放状态来逆转,任何 prompt 层面的指令都无法保证避免越界命令。因此,agent 的行为边界应设在设备接口处,由驱动执行器的控制器强制执行,对范围、剂量、速率和允许的序列设定硬性限制,并配备不依赖模型配合的独立停止路径。

报道中仍不清楚的是:该 agent 是如何获得执行授权的、是否有人员在环、以及硬件层施加了哪些约束。这些细节决定了这是一次控制失效还是在监督下的演示。本工作室的立场是:任何接入物理设备的 agent 都应被视为安全关键系统,在授予自主权之前应针对设备级边界进行评估。

让我们聊聊!