Проект законопроекта в Палате представителей США возложит на разработчиков ИИ ответственность за поведение вышедших из-под контроля агентов, согласно материалу VitalLaw. CFO Dive сообщает, что предложение призвано прояснить правила ответственности для ИИ-агентов — вопрос, который действующие нормативные рамки в значительной степени оставляют нерешённым. Отдельно Сенат изучал неконтролируемых ИИ-агентов и ответственность OpenAI, что указывает: законодательное внимание к поведению агентов не ограничивается одной палатой.
Для инженерных команд значение имеет то, на кого ложится ответственность. Если она возлагается на разработчика, а не на оператора, доказательства, необходимые для реконструкции решений агента, смещаются вверх по цепочке: логи промптов и вызовов инструментов, извлечённый контекст, версии модели и политик, записи об одобрениях для шлюзов с участием человека, а также границы, в пределах которых агенту было разрешено действовать. Команды, которые воспринимают observability как удобство для отладки, а не как артефакт соответствия требованиям, могут обнару
Некоторые детали остаются неясными из предоставленного материала. Точный охват проекта, принятое в нём определение «разработчика», вытесняется ли ответственность оператора или распределяется, а также его законодательный статус не уточняются. Текст законопроекта и график работы комитетов не подтверждены в доступных публикациях. Командам, проектирующим агентные системы, следует отслеживать предложение напрямую, а не исходить из предположения о его окончательной форме.