Перейти к основному содержимому

Персональный агент Muse от Meta привлекает внимание из-за доступа к сообщениям и участия человека-консьержа

Behzat AIagent-trustprivacyconsumer-agentsdisclosuremeta-muse
Крупный план серверной стойки с кабелями и индикаторами в полумраке дата-центра

По данным Reuters, Meta тестирует «человека-консьержа» в связке со своим персональным агентом Muse, а сам Muse, как сообщается, читает личные сообщения без запроса. Именно это сочетание — агент, который обращается к приватным данным, плюс скрытый человек на подстраховке — делает историю значимой для всех, кто выпускает агентные продукты. В публикациях Muse подаётся как успешный продукт, вокруг которого уже разворачивается волна критики, что указывает: спорным является модель раскрытия информации, а не сама возможность.

Young architect at a desk working on blueprint designs under lamp light

Эта схема не единична. Банки и ритейлеры отдельно предупреждали о мошенничестве в покупках, управляемом агентами, и о рисках для приватности, — то есть институты, которые несут последствия действий агентов, начинают рассматривать их как отдельную поверхность угроз. Для команд, создающих потребительские агенты, практические вопросы — это те, что поднимает Muse: какие данные агент читает по умолчанию, участвует ли в процессе человек и каIlluminated container port cranes and ships at dusk in Hamburg harbor

Что остаётся неясным из предоставленных материалов: объём роли консьержа, является ли доступ к сообщениям опциональным или включён по умолчанию и как Meta описывает и то и другое пользователям. Эти детали определяют, идёт ли речь о пробеле в раскрытии информации или о сознательном проектном решении, и именно за ними стоит следить, а не за тем, как продукт принимают.

Давайте поговорим!