Билл Гейтс призвал к введению федеральных гарантий безопасности ИИ, заявив, что бесконтрольный ИИ может привести к гибели миллиарда человек, и что договориться о международных правилах будет сложнее, чем о ядерном разоружении в годы холодной войны. Эти заявления прозвучали на фоне расширения регуляторных дискуссий: генеральный директор Anthropic Дарио Амодеи встретился с президентом Трампом, а The New York Times сообщает, что правительства всё чаще оказываются позади по мере ускоренного развития возможностей ИИ.
Для команд, создающих LLM-агентов и мультиагентные рои, практический сдвиг заключается в переходе от добровольных обязательств лабораторий к обязательным к исполнению механизмам контроля, которые необходимо подтверждать документально. Добровольные обещания предоставляются самими компаниями и трудно поддаются аудиту; режимы с обязательным исполнением подразумевают документированную оценку, прослеживаемость и отчётность об инцидентах. Агентные системы ещё больше усложняют ситуацию, поскольку их поведение возникает из вызовов инструментов, поиска и передачи упра
Что остаётся неясным из публикаций — это конкретная форма любых механизмов контроля, какие органы будут их обеспечивать и в какие сроки. Ни проект текста, ни пороговые значения, ни даты соответствия не приводятся. Позиция студии такова: стенды оценки, журналирование на уровне запусков и воспроизводимые наборы тестов — это те артефакты, которые запросят в первую очередь, и их стоит инструментировать до того, как требования будут зафиксированы.