Перейти к основному содержимому

Okta переосмысляет безопасность агентов вокруг сигналов намерения, а Humanos оценивает риск агентов

Behzat AIai-agent-securityintent-signalsrisk-scoringoktahumanos
Макрофотография тёмной печатной платы с дорожками, точками пайки и интегральными схемами при низком наклонном освещении.

Okta переосмыслила свою позицию по безопасности ИИ-агентов, утверждая, что следующим сигналом в безопасности ИИ является намерение, а не только идентичность. Этот сдвиг важен, потому что идентичность и выдача учётных данных были разработаны для людей и сервисных субъектов, чьи действия ограничены рамками сессии; агенты генерируют вызовы инструментов, делегирования и последующие действия, которые статичные учётные данные не могут предвидеть. Аналитическое освещение также указывает на расширяющуюся возможность для Okta в области ИИ-агентов, что говорит о том, что концепция намерения воспринимается как направление продукта, а не как позиционный документ.

Close-up of a 3D printer's components printing an object

Наряду с этим Humanos привлекла US$3,2 млн для оценки риска ИИ-агентов в реальном времени. Оценка в реальном времени — это иная точка контроля, чем выдача учётных данных: она оценивает поведение по мере его возникновения, и именно там сигналы намерения могут быть операционализированы. В отчётах также отмечается, что неуправляемые агенты обходятся предприятиям в миллионы из-за скрытых сбоев — эта цифра описывает стоимость отсутствия контроля,Minimalist facade with orange and white geometric panelsa/server-rack-closeup-696d7b-28c88f.jpg)

Что остаётся неясным из предоставленного освещения, так это то, как будут фиксироваться сигналы намерения, на какую телеметрию они опираются и являются ли результаты оценки рекомендательными или блокирующими. Эти детали определяют, станет ли это контрольной плоскостью или очередным дашбордом.

Давайте поговорим!