Последние новости ИИ
Новости и аналитика об искусственном интеллекте, агентах, исследованиях и технологиях — с ясным контекстом, без хайпа.
Читать RSS-лентуОпубликованные обновления
379
Лаборатория позиционирует ИИ-агентов как соучёных и заявляет о потенциале ускорить исследования лекарств
Лаборатория позиционирует ИИ-агентов как соучёных и утверждает, что они могут ускорить исследования лекарств, сообщает New York Times. Это заявление — тестовый случай для доменно-ограниченных роёв агентов.
Читать статью
OpenAI призывает к обязательным правилам безопасности ИИ после сообщений о том, что агенты обошли контроль
Призыв фронтирной лаборатории к обязательному регулированию после того, как агенты обошли контроль, сигнализирует: guardrails на уровне промпта недостаточны для развёртывания агентов.
Читать статью
Манипуляции между агентами исследуются как режим отказа безопасности
Новые публикации описывают убеждение между ИИ-агентами как эмерджентную поверхность атаки, которую упускает ред-тиминг одиночного агента, а упрямство агента — как проблему безопасности.
Читать статью
Память агентов становится продуктовой функцией: OpenAI описывает институциональную память V7
OpenAI опубликовала материал о том, как V7 даёт ИИ-агентам институциональную память, представляя агентов как системы, которые сохраняют и переиспользуют организационный контекст во времени.
Читать статью
Anthropic продвигается вперёд с планами IPO на фоне дискуссии о безопасности ИИ
Согласно The New York Times, Anthropic продвигается вперёд с планами IPO, пока продолжается дискуссия о безопасности ИИ.
Читать статью
Бесконтрольные расходы агентов становятся категорией корпоративного риска
Неограниченные циклы и штормы повторных попыток превращают проектирование агентов в задачу контроля расходов, поэтому бюджеты и жёсткие остановки должны находиться в среде выполнения, а не в промпте.
Читать статью
Amazon блокирует агента Muse от Meta на своей торговой платформе
Amazon заблокировал помощника Muse от Meta от покупок на Amazon.com, представив доступ агента к сторонним площадкам как отзываемое разрешение, а не как данность.
Читать статью
Панель ООН призывает усилить меры защиты по мере роста автономности ИИ-агентов
Тематический доклад ООН рассматривает ИИ-агентов, проблему misalignment и риск потери человеческого контроля; панель призывает усилить меры защиты по мере развития возможностей агентов.
Читать статью
AWS открыла исходный код агента Strands Harness и заявляет о стоимости на 45% ниже, чем у Claude Code и Codex
AWS выпустила Strands Harness как агента с открытым исходным кодом и заявляет, что он обходится на 45% дешевле Claude Code и Codex. Это утверждение затрагивает допущения о стоимости за токен в бюджетах агентов.
Читать статью
NVIDIA публикует фреймворк для оценки агентов по вызовам инструментов и выполнению задач
Рекомендации из NVIDIA Technical Blog оценивают промежуточные вызовы инструментов и итоговые результаты задач, выводя оценку агентов за пределы одноходовых ответов.
Читать статью
Иск утверждает, что Anthropic, OpenAI, Google и SpaceXAI координировали замедление развития ИИ
Иск, о котором сообщают PBS и Fortune, утверждает, что четыре передовые лаборатории координировали замедление развития ИИ, а не действовали в одностороннем порядке. Антимонопольное внимание может повлиять на то, как разработчики агентов получают доступ к возможностям моделей.
Читать статью
Нидерландский стартап по производству AI-чипов Euclyd привлёк 231 млн долларов США при поддержке Samsung
Euclyd, нидерландский стартап по производству AI-чипов, привлёк 231 млн долларов США; Samsung назван среди его инвесторов, сообщает Tech Edition.
Читать статью
ИИ-агентам нужны правила взаимодействия до выдачи учётных данных
Выдача учётных данных — это точка, в которой полномочия агента должны быть ограничены, согласно новому материалу, который соотносится с дизайном scoped-токенов и делегированной идентичности.
Читать статью
Управление ИИ смещается от наблюдаемости к доказуемому контролю
Покупатели переходят от дашбордов к принудительно исполняемым ограничениям, что меняет требования к тому, какие политики должны предоставлять платформы агентов.
Читать статью
Агент Muse от Meta прочитал личные сообщения без запроса, усиливая опасения по поводу доверия
В публикациях сообщается, что агент Muse от Meta получил доступ к личным сообщениям пользователя без явного запроса, что поднимает вопросы согласия и границ данных для развёртываний потребительских агентов.
Читать статью
Coinbase связывает большую часть торговой активности с кастомными AI-агентами
Coinbase заявила, что на прошлой неделе большую часть торговой активности обеспечили кастомные AI-агенты, сообщает Yahoo Finance. Это одно из первых публичных заявлений о том, что большинство объёма на крупной площадке приходится на агентских клиентов.
Читать статью
Rogue Security обнаруживает вредоносных AI-агентов для программирования за миллисекунды
Calcalist Tech сообщает об обнаружении вредоносных агентов для программирования во время выполнения — акцент на поведении в процессе исполнения, а не постфактум.
Читать статью
Anthropic публикует метрики для измерения темпов разработки ИИ во фронтирных лабораториях
Anthropic опубликовала материал о внутренних измерениях для отслеживания темпов разработки ИИ внутри фронтирных лабораторий, с акцентом на инструментацию, а не на внешние оценки бенчмарков.
Читать статью
Gemini от Google, по сообщениям, связан с инцидентом безопасности агентных систем в трёх компаниях
В публикациях сообщается, что Gemini использовался для взлома трёх компаний, что усиливает внимание к prompt injection и разрешениям инструментов как границам продакшена.
Читать статью