Gray Swan перезапустила свой конкурс red-teaming Arena, и теперь его формат ориентирован на эпоху ИИ-агентов, сообщает Fortune. Перезапуск нацелен на агентные системы, а не на одноходовые ответы моделей, и конкурс позиционируется как состязательная оценка поведения агентов.
Суть истории — в смене рамки. Тестирование устойчивости на уровне промптов спрашивает, можно ли уговорить модель на один небезопасный ответ; оценка агентов спрашивает, что система делает на последовательности tool call, промежуточных состояний и делегированных подзадач. Это разные поверхности отказов, и их сложнее воспроизводимо оценивать, потому что одна и та же траектория агента может разойтись при небольших изменениях окружения, памяти или доступности инструментов. Формат конкурса не решает эту сложность, но делает её публичной и сравнимой.
Для команд, строящих агентные системы, практическое следствие таково: состязательная оценка превращается из галочки при закупке модели в утверждение о поведении, которое поставщиков попросят обосновать. Чего материал Fortune не устанавливает — это методология оценки конкурса, набор задач, сроки и то, будут ли результаты опубликованы в форме, допускающей сравнение между системами. Эти детали важны для всех, кто намерен использовать результаты Arena как доказательство, и их следует считать открытыми, пока Gray Swan их не задокументирует. Позиция студии: форматы red-team наиболее полезны, когда инспектируема сама обвязка, а не только таблица лидеров.