NVIDIA обязалась выделить $250 млн на поддержку исследований в области безопасности ИИ в Великобритании, сообщает Reuters. Обязательство охватывает исследования безопасности агентных систем в течение следующих пяти лет, как указано в собственном объявлении NVIDIA в её новостном разделе. Обещание позиционируется как финансирование инфраструктуры безопасности ИИ в Великобритании, по данным The Tech Buzz.
Для команд, создающих агентные системы, значение имеет не заявленная сумма, а инструментарий и модели угроз, которые обычно появляются в результате программ безопасности, финансируемых вендорами. Исследовательские программы такого рода часто закрепляются в виде эталонных реализаций, средств оценки и стандартных guardrail-механизмов, которые затем всплывают в требованиях закупок и корпоративных опросниках по безопасности. Безопасность агентных систем особенно близка к вопросам, которые уже определяют решения о развёртывании: границы использования инструментов, разграничение прав доступа, аудит многошаговых действий и сдерживание автономного поведения.
Что остаётся неясным из предоставленных материалов, так это точное распределение финансирования, какие учреждения или программы его получат и как будут лицензироваться или регулироваться результаты. Студия продолжит следить за развитием исследовательской программы, особенно там, где она начнёт влиять на критерии оценки и требования безопасности, которые заказчики применяют к агентным системам.