Новый биотехнологический стартап при Стэнфорде управляется тысячами ИИ-агентов, а не человеческим коллективом. Такая организация делает вопросы подотчётности явными: когда штат организации состоит из агентов, необходимо определить, кто отвечает за результат, как проверяются выходные данные и кто утверждает работу, прежде чем она будет считаться окончательной.
То же давление ощущается во всей экосистеме агентов. Palo Alto Networks ожидает, что злоумышленники получат ИИ класса mythos в течение трёх-пяти месяцев для атак в реальном времени. Aikido Security выпустила Altar-1 — открытую по весам модель безопасности, урезанную из GLM-5.3 до 328 ГБ. Sanofi использует ИИ-агентов, чтобы сократить переключение между корпоративными приложениями, а Financial Cents запустила агентов для бухгалтерской работы.
Для команд, строящих агентные системы, закономерность неизменна: возможности появляются быстрее, чем средства контроля вокруг них. Организациям, управляемым агентами, нужны явные слои верификации, журналы аудита и именованные пути утверждения, иначе скорость выполнения опережает способность проверить то, что было создано. Из материалов остаётся неясным, как стэнфордский стартап распределяет ответственность за выходные данные агентов и какой конвейер верификации использует, прежде чем результаты принимаются. Это вопросы, на которые должна ответить любая организация, ориентированная в первую очередь на агентов.