Исследователи Oasis Security обнаружили три связанных уязвимости в Claude от Anthropic — включая внедрение запроса (prompt injection), путь эксфильтрации через Files API и открытый редирект — что позволяет бесшумно похищать данные через объявление в Google Поиске.
Исследователи в области безопасности продемонстрировали, что автономный AI-агент успешно скомпрометировал внутреннюю AI-систему McKinsey менее чем за два часа, воспользовавшись техникой внедрения подсказок — известным, но всё ещё широко не устранённым вектором атаки — что вызывает неотложные опасения по поводу безопасности AI в корпоративной среде.
OpenAI объявила о приобретении Promptfoo, стартапа с открытым исходным кодом, занимающегося безопасностью ИИ и red-teaming, чтобы повысить безопасность и надёжность своих ИИ-агентов против адверсариальных атак и уязвимостей внедрения подсказок (prompt injection).
Anthropic публично обвинила китайские лаборатории ИИ в систематическом извлечении знаний из своих моделей Claude посредством атак дистилляции, опубликовав новые исследования по обнаружению и предотвращению на фоне дебатов в США о контроле экспорта чипов для ИИ.
Microsoft Copilot дважды за восемь месяцев обходил политики DLP и метки чувствительности — включая четырёхнедельное раскрытие, затронувшее NHS Великобритании — что выявляет системную «слепую зону» в стеке корпоративной безопасности ИИ.
Anthropic выпустила Claude Code Security, новый инструмент безопасности приложений на базе ИИ, который сканирует кодовые базы на предмет сложных уязвимостей, используя рассуждения, похожие на человеческие; новость об этом обвалила акции кибербезопасных компаний.
Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.
Учёные UF создали метод HMNS для проверки мер безопасности ИИ, успешно обходя системы Meta и Microsoft для выявления уязвимостей.
Последняя модель ИИ OpenAI демонстрирует тревожную способность опустошать криптовалютные кошельки, успешно эксплуатируя уязвимые смарт-контракты в 72% тестов.
Министерство финансов публикует шесть материалов для укрепления безопасности ИИ и управления рисками во всем финансовом секторе в рамках партнерства AIEOG.
Microsoft подтверждает, что критическая ошибка позволяла Copilot AI с января суммировать конфиденциальные письма, обходя политики предотвращения утечки данных в Microsoft 365.
Gartner предупреждает, что 57% сотрудников используют личный GenAI для работы, поскольку автономные ИИ‑агенты и угрозы постквантовой криптографии трансформируют ландшафт кибербезопасности.
Китайская хакерская группа APT31, поддерживаемая государством, использовала ИИ Gemini от Google для автоматизации анализа уязвимостей и планирования кибератак на американские цели, что стало значительным обострением в сфере кибервойн с применением ИИ.
Исследователи Университета Реджайны усилили инструмент обнаружения дезинформации CIPHER возможностями искусственного интеллекта, чтобы противодействовать ложным нарративам, ориентированным на канадцев. Система анализирует российские пропагандистские кампании и расширяется, чтобы распознавать дезинформацию на китайском языке.
Google сообщает, что действующие из коммерческих побуждений лица провели атаки дистилляции на Gemini, используя более 100 000 запросов для извлечения возможностей модели ИИ и интеллектуальной собственности.
APT-группы из Китая, Северной Кореи и Ирана используют Google Gemini для разведки, написания вредоносного ПО и фишинговых кампаний, сообщает Google GTIG.
Новое исследование выявляет распространение мошенничеств с дипфейками в промышленном масштабе и подчёркивает неотложные угрозы кибербезопасности, создаваемые синтетическими медиа, сгенерированными ИИ.
Неправильно настроенный бэкенд Firebase обнажил 300 млн AI-сообщений чатов от 25 млн пользователей, включая полные истории разговоров и настройки.
Исследователи Microsoft представили метод обнаружения отравленных моделей ИИ, достигающий 88% точности и нулевого числа ложных срабатываний на 47 моделях «спящих агентов».
Исследователи в области кибербезопасности предупреждают, что агенты ИИ быстро расширяют поверхность атак: 95% развертываний протокола Model Context Protocol (MCP) работают на конечных устройствах сотрудников без видимости со стороны средств безопасности. GreyNoise зафиксировала более 91 000 сессий атак по инфраструктуре LLM за три месяца, в то время как такие государства, как Иран и Китай, используют ИИ для возможностей кибервойны.
