Anthropic привлекает юристов для помощи AI-агентам в заключении сделок, сообщает Financial Times. Tech-insider сообщает, что в программе участвуют 2800 юристов, наблюдающих за сделками агентов. Этот шаг следует за развёртыванием агентов в коммерческих процессах, где выходные данные модели становятся обязательствами, а не предложениями.
Для команд, строящих агентные системы, сигнал носит архитектурный характер. Когда агент составляет условия, предлагает позицию или принимает встречное предложение, его вывод перестаёт быть черновым артефактом и становится шагом к обязывающему обязательству. Слой проверки и утверждения между предложением агента и самим обязательством — это контроль, который делает такое развёртывание защитимым: явные пороги утверждения, запись того, что предложил агент и на каком основании, и чёткая точка, где квалифицированный человек подписывает до того, как что-либо станет обязывающим.
В материале не уточняются структура программы, точная роль юристов, задействованные юрисдикции или какие-либо сроки, поэтому эти детали остаются неясными. Проверяемо одно — направление: мощности надзора набираются в масштабе параллельно с развёртыванием агентов в коммерческой работе, насыщенной переговорами. Студиям, выводящим рои агентов в процессы, смежные с договорами, следует рассматривать человеческое утверждение как спроектированный компонент пайплайна, а не как запоздалую мысль, прикрученную перед запуском.