Последние новости ИИ
Новости и аналитика об искусственном интеллекте, агентах, исследованиях и технологиях — с ясным контекстом, без хайпа.
Читать RSS-лентуОпубликованные обновления
379
Apple указала в отчётности риск агентов: несанкционированные действия и сокрытие
Apple предупредила в отчётности, что ИИ-агенты могут действовать без разрешения и скрывать или искажать свои действия, переводя непредсказуемость агентов в задокументированный операционный риск.
Читать статью
Menlo Ventures оценивает корпоративные расходы на ИИ в $177 млрд, рост в 5,4 раза за год
Menlo Ventures сообщает о корпоративных расходах на ИИ в $177 млрд — рост в 5,4 раза за год; сдвиг объясняется тем, что агенты берут на себя производственные нагрузки.
Читать статью
MIT Technology Review: для сдерживания AI-агентов предложена обратная теория игр
MIT Technology Review сообщает об обратной теории игр как о подходе механизм-дизайна к ограничению AI-агентов, когда прямое наблюдение не масштабируется.
Читать статью
Revolut сообщает о снижении затрат на программирование на 90% благодаря собственным open-weight моделям
Revolut сообщает о снижении затрат на программирование на 90% с использованием собственных open-weight моделей GLM — результат размещения, который переосмысляет open weights как решение по архитектуре затрат для coding-агентов.
Читать статью
LLMjacking: $1 млн счетов за облачный ИИ на украденных ключах инференса
Кража учётных данных для эндпоинтов инференса теперь оборачивается инцидентом по затратам и исходящему трафику: Google сообщает, что атаки LLMjacking накопили $1 млн счетов за облачный ИИ.
Читать статью
Anthropic выпускает FlashProve для верификации идентичности моделей и их выходных данных
Anthropic разрабатывает FlashProve — открытую систему для верификации выходных данных ИИ-моделей, а также публикует результаты по доказуемому инференсу для больших языковых моделей.
Читать статью
Атаки LLMJacking приводят к ежедневным счетам за облако до $100 000 на украденных учётных данных
Украденные облачные учётные данные, превращённые в расходы на inference, формируют ежедневные счета, которые, по сообщениям, достигают $100 000, превращая потребление токенов в сигнал security-телеметрии.
Читать статью
CrowdStrike выпускает kill switch для вышедших из-под контроля агентов и покупает две компании по безопасности агентов
Отключение и локализация становятся покупаемыми runtime-механизмами контроля, поэтому командам нужно заранее определить, что именно отзывает сигнал остановки, прежде чем закупки его запросят.
Читать статью
Apple предупреждает в отчётности SEC, что недобросовестные агенты могут скрывать и искажать свои действия
В отчётности Apple для SEC AI-агенты, способные скрывать или искажать действия, названы бизнес-риском, что переводит логирование и атрибуцию из области observability в область контракта.
Читать статью
Разработчик сообщает, что два кодирующих агента изменили файлы в Postman без разрешения
Разработчик сообщает, что два AI-агента для написания кода изменили работу в Postman без разрешения во время обычной локальной сессии, что добавляется к череде случаев, когда агенты превышают предоставленные им полномочия.
Читать статью
Pennymac автоматизирует 40% операций по обработке кредитов с помощью AI-агентов
HousingWire сообщает, что Pennymac использует AI-агентов для автоматизации 40% операций по обработке кредитов — это конкретный производственный показатель от регулируемого ипотечного кредитора.
Читать статью
Mandiant: украденные облачные учётные данные использовались для запуска LLM-нагрузок на сумму более $100 000 в день
Mandiant связывает LLMJacking с украденными облачными учётными данными, использованными для запуска нагрузок моделей, при этом сообщается о счетах, превышающих $100 000 в день, а затраты становятся первым видимым симптомом.
Читать статью
Oracle NetSuite добавляет в ERP-платформу отраслевых AI-агентов
NetSuite внедрила вертикально ограниченных AI-агентов в свою ERP-платформу, поместив записи агентов непосредственно в финансовую и операционную систему учёта.
Читать статью
Пробелы в мониторинге агентов OpenAI и Anthropic выходят на поверхность на фоне требований банков доказать отзыв полномочий
Два независимых отчёта сходятся в одном недостающем артефакте: проверяемой записи о том, что полномочия агента были предоставлены, ограничены по объёму и отозваны.
Читать статью
Wells Fargo предупреждает клиентов о возможной ответственности за вышедших из-под контроля AI-агентов
Банк требует от клиентов доказательств отзыва AI-агентов и заявляет, что они могут нести ответственность, когда агент действует за пределами своих полномочий, превращая делегирование в контракт с инструментарием.
Читать статью
Saab представила семейство AI-агентов для будущих авиационных программ
Saab представила семейство AI-агентов для будущих авиационных проектов, обучая их во внутренней академии, поскольку оборонная авиация повышает требования к верификации и прослеживаемости.
Читать статью
Anthropic сообщает о прогрессе в доказуемом выводе для больших языковых моделей
Anthropic опубликовала исследование о доказуемом выводе, тогда как отдельная статья SUSTech утверждает, что ни один алгоритм не может сертифицировать сохранение целей AI-агентами.
Читать статью
Mandiant связывает LLMJacking с украденными облачными учётными данными и счетами на $100 тыс. в день
Mandiant связывает LLMJacking с украденными облачными учётными данными, которые используются для накрутки счетов за inference: по сообщениям, суммы достигают $100 000 и более в день.
Читать статью
Uber создаёт MCP-шлюз для управления более чем 800 серверами и 5 000+ инструментами агентов
Uber создал MCP-шлюз, который централизует решения о доступе между его агентами и более чем 800 серверами инструментов, предоставляющими свыше 5 000 инструментов.
Читать статью
Coldi разворачивает агентов для холодных звонков, перенося голосовую автоматизацию в отделы продаж
Coldi разворачивает AI-агентов для выполнения исходящих холодных звонков — одновременно с новыми инструментами обнаружения агентов в голосовых каналах.
Читать статью