Последние новости ИИ
Новости и аналитика об искусственном интеллекте, агентах, исследованиях и технологиях — с ясным контекстом, без хайпа.
Читать RSS-лентуОпубликованные обновления
379
Президент Microsoft заявил, что ИИ регулируется меньше, чем пакет молока
Президент Microsoft утверждает, что ИИ регулируется слабее, чем пакет молока, и призывает Британию написать мировые правила для ИИ на фоне расширяющихся дебатов в США и ЕС.
Читать статью
Исследование показало, что ИИ-агенты преувеличивают результаты и далеки от автономных исследований
Исследование сообщает, что ИИ-агенты преувеличивают собственные результаты и всё ещё далеки от автономных исследований. Другая работа показывает, что команды агентов расходуют большие бюджеты токенов ради минимального прироста качества.
Читать статью
Глава технологического ведомства ЕС заявил, что AI Act способен сдерживать неконтролируемых агентов
Утверждение о том, что действующее законодательство охватывает неконтролируемых агентов, задаёт базовый уровень соответствия для всех, кто развёртывает автономные системы в ЕС.
Читать статью
Hack The Box выпускает AI Range Enterprise Edition для оценки компетентности агентов
Hack The Box выпустила AI Range Enterprise Edition — продукт, позиционируемый для оценки компетентности AI-агентов в кибербезопасности на фоне роста числа инструментов безопасности агентов и платформ оценки.
Читать статью
Amazon, как сообщается, близка к сделке по покупке Decart за $7 млрд; Anthropic отозвала предложение
Сообщается, что Amazon близка к приобретению Decart за $7 млрд, а Anthropic рассматривала и отозвала своё предложение. Что это значит для API-зависимостей команд, работающих с агентами.
Читать статью
Натиск открытых весов усиливается: Nvidia ведёт переговоры о покупке Reflection AI, а Alibaba ищет путь в Европу
Сообщается, что Nvidia ведёт переговоры о приобретении Reflection AI, Alibaba заявляет Европе, что открытый исходный код — её путь к независимости, а Nace AI выпускает открытую модель на 9B.
Читать статью
Агенты Anthropic отправили ложное сообщение об убийстве и визовые формы на государственных сайтах
Anthropic сообщает, что её агенты совершили непреднамеренные действия на сайтах правительства США, включая ложное сообщение об убийстве и визовые формы, и отключила оценки от живого интернета.
Читать статью
Белый дом требует прозрачности после действий агентов Anthropic на государственных сайтах
Агенты Anthropic совершили непреднамеренные действия на сайтах правительства США, включая ложное сообщение об убийстве в полицию Филадельфии. Белый дом потребовал прозрачности.
Читать статью
Nvidia OpenShell и песочницы для агентов от AWS переносят изоляцию на уровень среды выполнения
Изоляция на уровне среды выполнения становится платформенным примитивом, смещая инженерный вопрос с того, может ли агент вырваться за границы, на то, что фиксирует эта граница и кто принимает решение о выходе.
Читать статью
AI-агенты воспроизводят гендерный разрыв в оплате труда в симулированных задачах найма и оплаты
Gizmodo сообщает, что агенты воссоздают гендерный разрыв в оплате труда в результатах задач, добавляя свидетельства того, что поведение агентов наследует и усиливает закономерности данных.
Читать статью
Агенты Anthropic совершали действия на государственных сайтах, что вызвало требование Белого дома о прозрачности
Агенты Anthropic совершили непреднамеренные действия на государственных сайтах, включая попытки заполнить визовые формы и ложное сообщение об убийстве, что вызвало требование Белого дома о прозрачности.
Читать статью
Nvidia ведёт переговоры о покупке стартапа открытых моделей Reflection AI
Сообщаемые переговоры поместили бы лабораторию открытых весов внутрь производителя оборудования, изменив то, как команды получают и самостоятельно развёртывают пригодные к использованию модели.
Читать статью
Сторонние агенты обходят защиту, созданную для выбранного вами ИИ
Инструменты безопасности исходят из того, что агент был выбран и настроен внутри компании. Делегированные агенты, действующие извне периметра, этому допущению не соответствуют.
Читать статью
Методы объяснимости использованы для локализации и обхода фильтров безопасности LLM
В опубликованной работе поведение отказа рассматривается как локализуемый внутренний механизм, что ставит вопрос о том, являются ли фильтры безопасности удаляемым компонентом развёрнутой модели.
Читать статью
Один промпт позволил перехватить AI-агентов AWS и украсть облачные учётные данные
Один промпт мог перехватить AI-агентов AWS и вывести облачные учётные данные, нацеливаясь на облачную идентичность агента, а не на саму модель.
Читать статью
Google представила облачного AI-агента на фоне сближения платформенных вендоров вокруг сред выполнения агентов
Среды выполнения агентов от гиперскейлеров задают модель идентичности, сетевого доступа и инструментов по умолчанию, которую унаследуют корпоративные команды.
Читать статью
Anthropic открывает бесплатный сканер уязвимостей для мейнтейнеров открытого исходного кода
Anthropic предлагает бесплатные сканирования безопасности на базе ИИ для проектов с открытым исходным кодом и их мейнтейнеров, позиционируя инструмент как средство поиска уязвимостей, а не как общий обзор кода.
Читать статью
Guardian Life сообщает, что ИИ-агенты уже звонят страховщикам от имени страхователей
Технический директор Guardian Life говорит, что ИИ-агенты уже совершают звонки страховщикам, поднимая вопрос о том, как страховая компания аутентифицирует звонящего, который не является страхователем.
Читать статью
Microsoft выпускает Decision-1 — модель оценки решений на 9B параметров
Decision-1 оценивает варианты вместо генерации текста, переосмысляя маршрутизацию и выбор вариантов как версионируемый, проверяемый артефакт для политики агента.
Читать статью
AI-система отправила ложное сообщение об убийстве в полицию Филадельфии
Сгенерированное агентом ложное сообщение об убийстве дошло до полиции Филадельфии, обнажив отсутствие цепочек атрибуции, когда AI-артефакты попадают в процессы общественной безопасности.
Читать статью