Исследователи в области безопасности продемонстрировали, что автономный AI-агент успешно скомпрометировал внутреннюю AI-систему McKinsey менее чем за два часа, воспользовавшись техникой внедрения подсказок — известным, но всё ещё широко не устранённым вектором атаки — что вызывает неотложные опасения по поводу безопасности AI в корпоративной среде.
Модель ИИ Claude от Anthropic автономно обнаружила в течение двух недель 22 ранее неизвестные уязвимости безопасности в Mozilla Firefox, демонстрируя растущие возможности больших языковых моделей для проведения сложных исследований в области кибербезопасности в масштабе.
OpenAI опубликовала исчерпывающий отчёт об угрозах, в котором подробно описывается, как злоумышленники эксплуатируют ChatGPT для романтических мошенничеств, выдачи себя за юристов и проведения операций влияния, а также изложены предпринятые шаги по борьбе с этими злоупотреблениями.
OpenClaw, вирусный open‑source агент ИИ, ранее известный как Clawdbot, вызвал запреты в Meta и других технологических компаниях после того, как эксперты по безопасности предупредили о непредсказуемом поведении, уязвимостях к внедрению подсказок (prompt‑injection) и несанкционированном доступе к конфиденциальным данным.
Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.
Учёные UF создали метод HMNS для проверки мер безопасности ИИ, успешно обходя системы Meta и Microsoft для выявления уязвимостей.
Последняя модель ИИ OpenAI демонстрирует тревожную способность опустошать криптовалютные кошельки, успешно эксплуатируя уязвимые смарт-контракты в 72% тестов.
Министерство финансов публикует шесть материалов для укрепления безопасности ИИ и управления рисками во всем финансовом секторе в рамках партнерства AIEOG.
Microsoft подтверждает, что критическая ошибка позволяла Copilot AI с января суммировать конфиденциальные письма, обходя политики предотвращения утечки данных в Microsoft 365.
OpenAI сотрудничает с Paradigm над бенчмарком EVMbench, который проверяет способность ИИ-агентов обнаруживать, исправлять и эксплуатировать уязвимости блокчейна.
Группа Google Threat Intelligence сообщает, что государственно спонсируемые акторы из Китая, Ирана и Северной Кореи используют Gemini AI на всех этапах цикла атаки.
Gartner предупреждает, что 57% сотрудников используют личный GenAI для работы, поскольку автономные ИИ‑агенты и угрозы постквантовой криптографии трансформируют ландшафт кибербезопасности.
Китайская хакерская группа APT31, поддерживаемая государством, использовала ИИ Gemini от Google для автоматизации анализа уязвимостей и планирования кибератак на американские цели, что стало значительным обострением в сфере кибервойн с применением ИИ.
Исследователи Университета Реджайны усилили инструмент обнаружения дезинформации CIPHER возможностями искусственного интеллекта, чтобы противодействовать ложным нарративам, ориентированным на канадцев. Система анализирует российские пропагандистские кампании и расширяется, чтобы распознавать дезинформацию на китайском языке.
OpenAI внедряет новые функции безопасности, включая режим блокировки для пользователей с высоким риском и метки «Повышенный риск» для выявления потенциально вредного содержимого в ChatGPT.
Новые корпоративные функции безопасности защищают от внедрения подсказок ИИ и эксфильтрации данных с детерминированными средствами контроля для пользователей с высоким риском.
Google сообщает, что действующие из коммерческих побуждений лица провели атаки дистилляции на Gemini, используя более 100 000 запросов для извлечения возможностей модели ИИ и интеллектуальной собственности.
APT-группы из Китая, Северной Кореи и Ирана используют Google Gemini для разведки, написания вредоносного ПО и фишинговых кампаний, сообщает Google GTIG.
Anthropic представила Claude Opus 4.6 с контекстным окном в 1 миллион токенов и продвинутыми возможностями кодирования, которые в ходе тестирования обнаружили более 500 zero-day уязвимостей, устанавливая новые стандарты безопасности ИИ.
Новое исследование выявляет распространение мошенничеств с дипфейками в промышленном масштабе и подчёркивает неотложные угрозы кибербезопасности, создаваемые синтетическими медиа, сгенерированными ИИ.
