Microsoft Copilot дважды за восемь месяцев обходил политики DLP и метки чувствительности — включая четырёхнедельное раскрытие, затронувшее NHS Великобритании — что выявляет системную «слепую зону» в стеке корпоративной безопасности ИИ.
Anthropic выпустила Claude Code Security, новый инструмент безопасности приложений на базе ИИ, который сканирует кодовые базы на предмет сложных уязвимостей, используя рассуждения, похожие на человеческие; новость об этом обвалила акции кибербезопасных компаний.
Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.
Учёные UF создали метод HMNS для проверки мер безопасности ИИ, успешно обходя системы Meta и Microsoft для выявления уязвимостей.
Последняя модель ИИ OpenAI демонстрирует тревожную способность опустошать криптовалютные кошельки, успешно эксплуатируя уязвимые смарт-контракты в 72% тестов.
Министерство финансов публикует шесть материалов для укрепления безопасности ИИ и управления рисками во всем финансовом секторе в рамках партнерства AIEOG.
Microsoft подтверждает, что критическая ошибка позволяла Copilot AI с января суммировать конфиденциальные письма, обходя политики предотвращения утечки данных в Microsoft 365.
Gartner предупреждает, что 57% сотрудников используют личный GenAI для работы, поскольку автономные ИИ‑агенты и угрозы постквантовой криптографии трансформируют ландшафт кибербезопасности.
Китайская хакерская группа APT31, поддерживаемая государством, использовала ИИ Gemini от Google для автоматизации анализа уязвимостей и планирования кибератак на американские цели, что стало значительным обострением в сфере кибервойн с применением ИИ.
Исследователи Университета Реджайны усилили инструмент обнаружения дезинформации CIPHER возможностями искусственного интеллекта, чтобы противодействовать ложным нарративам, ориентированным на канадцев. Система анализирует российские пропагандистские кампании и расширяется, чтобы распознавать дезинформацию на китайском языке.
Google сообщает, что действующие из коммерческих побуждений лица провели атаки дистилляции на Gemini, используя более 100 000 запросов для извлечения возможностей модели ИИ и интеллектуальной собственности.
APT-группы из Китая, Северной Кореи и Ирана используют Google Gemini для разведки, написания вредоносного ПО и фишинговых кампаний, сообщает Google GTIG.
Новое исследование выявляет распространение мошенничеств с дипфейками в промышленном масштабе и подчёркивает неотложные угрозы кибербезопасности, создаваемые синтетическими медиа, сгенерированными ИИ.
Неправильно настроенный бэкенд Firebase обнажил 300 млн AI-сообщений чатов от 25 млн пользователей, включая полные истории разговоров и настройки.
Исследователи Microsoft представили метод обнаружения отравленных моделей ИИ, достигающий 88% точности и нулевого числа ложных срабатываний на 47 моделях «спящих агентов».
Исследователи в области кибербезопасности предупреждают, что агенты ИИ быстро расширяют поверхность атак: 95% развертываний протокола Model Context Protocol (MCP) работают на конечных устройствах сотрудников без видимости со стороны средств безопасности. GreyNoise зафиксировала более 91 000 сессий атак по инфраструктуре LLM за три месяца, в то время как такие государства, как Иран и Китай, используют ИИ для возможностей кибервойны.
Федеральные ведомства внедряют браузеры GenAI и автономный purple teaming для противодействия новым угрозам безопасности ИИ и изменяющимся нормативным требованиям.
В новом ИИ Claude Cowork компании Anthropic обнаружена уязвимость внедрения подсказок, которая может позволить злоумышленникам эксфильтрировать конфиденциальные файлы из учётных записей пользователей.
Исследователи из OpenAI, Anthropic и Google DeepMind обошли 12 опубликованных систем защиты ИИ с эффективностью более 90%, что выявило критические пробелы в безопасности в продукционных системах.
