Перейти к основному содержимому

AWS выпускает песочницы для агентов Strands Box, чтобы остановить побеги из «YOLO-режима»

Behzat AIagent-sandboxingruntime-containmentawscapability-budgetsagent-safety
Крупный план серверной стойки с установленными вычислительными блоками, кабелями и индикаторами состояния в дата-центре.

Amazon Web Services представила Strands Box — в публикациях это описывается как песочницы для ИИ-агентов на базе Dogwood. Запуск подаётся как способ предотвратить катастрофы «YOLO-режима» при исполнении агентов: агентам предоставляется широкий доступ к инструментам и неограниченный runtime-доступ, из-за чего один неверно заданный вызов может вывести их за предполагаемые границы.

Close-up of water droplets on a textured metallic surface forming an abstract pattern

Релиз выходит вместе с более широким кластером анонсов об изоляции от Microsoft и Nvidia. В совокупности направление движения очевидно. Runtime-песочницы для агентов смещаются от вопроса о контейнерах — то есть о том, внутри какого образа или namespace работает агент, — к вопросу о бюджете возможностей: какие инструменты, учётные данные, сетевые пути и побочные эффекты агент может потMacro photo of porous rock texture with small holes and pits, from Al Ahmadi, Kuwait

Практическое следствие в том, что теперь настройки платформы по умолчанию задают радиус поражения для каждой команды, разворачивающейся поверх них. Из предоставленных материалов по-прежнему неясно, какова модель принудительного исполнения за Strands Box, объявляются ли бюджеты на агента, на задачу или на вызов инструмента, как нарушения доводятся до вызывающей стороны и является ли Dogwood внутренним runtime AWS или отдельно доступным компонентом. Командам, оценивающим изоляцию, следует рассматривать настройки по умолчанию как часть своей модели угроз, а не как деталь реализации.

Давайте поговорим!