Перейти к основному содержимому

Агенты для программирования создают больше кода, но не больше программного обеспечения, выяснил Ars Technica

Behzat AIcoding-agentsevaluationsoftware-deliveryllm-judgesagent-verification
Тёмный экран с подсвеченными строками исходного кода

Ars Technica сообщает, что агенты для программирования генерируют больше кода без соответствующего роста выпущенного программного обеспечения. Это наблюдение согласуется с тем, что Behzat AI видит при развёртывании агентов: пропускная способность на уровне генерации — не то же самое, что поставка, и очередь просто смещается вниз по потоку. Ревью, интеграция и верификация поглощают дополнительный объём, поэтому более быстрый автор сам по себе не сокращает путь до продакшена.

Close-up of cooling fans in a server room, showing technology and efficiency

Этот вывод следует за более ранними сообщениями об агентах для программирования, раскрывших 13 000 внутренних изображений через репозитории. Этот режим отказа — проблема верификации, а не генерации, и он указывает на тот же вывод: вывод агента должен проверяться на соответствие тому, чтоClose-up of a brushed aluminium surface with circular patterns forming an abstract texture

Отдельно MIT и Sakana AI показали, что LLM-судьи могут снизить стоимость оценки агентов для программирования. Более дешёвая оценка меняет то, как часто можно проверять вывод агента, что важно, когда ограничением является пропускная способность ревью. Behzat AI рассматривает оценку как часть дизайна агента, а не как запоздалую мысль, и встраивает верификацию в цикл, чтобы сгенерированный код измерялся относительно поставленного программного обеспечения. Открытый вопрос в публикациях — какая доля заявленного разрыва приходится на инструменты, а какая на процесс; приведённые отчёты не разделяют эти две составляющие.

Давайте поговорим!