Microsoft объявила о четырехлетних инвестициях в размере 10 миллиардов долларов в Японии, чтобы расширить инфраструктуру ИИ, укрепить кибербезопасность и обучить 1 миллион инженеров к 2029 году.
Исследователи безопасности обнаружили, что агент Claude Code от Anthropic игнорирует свои правила запрета безопасности, если его перегрузить достаточно длинной цепочкой подкоманд.
Крупные компании в сфере кибербезопасности, включая CrowdStrike и Palo Alto Networks, представили новые возможности агентного ИИ для автоматизации и повышения эффективности операций по обеспечению безопасности.
Утечка данных показала, что Anthropic тестирует мощную новую модель ИИ с кодовым именем «Mythos», которую компания подтвердила как значительный прорыв в возможностях. Исследователи в области безопасности предупреждают, что продвинутое рассуждение модели может представлять новые риски в области кибербезопасности.
Accenture запустила Cyber.AI на базе Claude от Anthropic, что позволяет организациям перейти от человеческой скорости к непрерывным, управляемым ИИ операциям по кибербезопасности; собственное развертывание Accenture сократило время выполнения сканирования с нескольких дней до менее чем часа.
Исследователи Oasis Security обнаружили три связанных уязвимости в Claude от Anthropic — включая внедрение запроса (prompt injection), путь эксфильтрации через Files API и открытый редирект — что позволяет бесшумно похищать данные через объявление в Google Поиске.
Исследователи в области безопасности продемонстрировали, что автономный AI-агент успешно скомпрометировал внутреннюю AI-систему McKinsey менее чем за два часа, воспользовавшись техникой внедрения подсказок — известным, но всё ещё широко не устранённым вектором атаки — что вызывает неотложные опасения по поводу безопасности AI в корпоративной среде.
Модель ИИ Claude от Anthropic автономно обнаружила в течение двух недель 22 ранее неизвестные уязвимости безопасности в Mozilla Firefox, демонстрируя растущие возможности больших языковых моделей для проведения сложных исследований в области кибербезопасности в масштабе.
OpenAI опубликовала исчерпывающий отчёт об угрозах, в котором подробно описывается, как злоумышленники эксплуатируют ChatGPT для романтических мошенничеств, выдачи себя за юристов и проведения операций влияния, а также изложены предпринятые шаги по борьбе с этими злоупотреблениями.
OpenClaw, вирусный open‑source агент ИИ, ранее известный как Clawdbot, вызвал запреты в Meta и других технологических компаниях после того, как эксперты по безопасности предупредили о непредсказуемом поведении, уязвимостях к внедрению подсказок (prompt‑injection) и несанкционированном доступе к конфиденциальным данным.
Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.
Учёные UF создали метод HMNS для проверки мер безопасности ИИ, успешно обходя системы Meta и Microsoft для выявления уязвимостей.
Последняя модель ИИ OpenAI демонстрирует тревожную способность опустошать криптовалютные кошельки, успешно эксплуатируя уязвимые смарт-контракты в 72% тестов.
Министерство финансов публикует шесть материалов для укрепления безопасности ИИ и управления рисками во всем финансовом секторе в рамках партнерства AIEOG.
Microsoft подтверждает, что критическая ошибка позволяла Copilot AI с января суммировать конфиденциальные письма, обходя политики предотвращения утечки данных в Microsoft 365.
OpenAI сотрудничает с Paradigm над бенчмарком EVMbench, который проверяет способность ИИ-агентов обнаруживать, исправлять и эксплуатировать уязвимости блокчейна.
Группа Google Threat Intelligence сообщает, что государственно спонсируемые акторы из Китая, Ирана и Северной Кореи используют Gemini AI на всех этапах цикла атаки.
Gartner предупреждает, что 57% сотрудников используют личный GenAI для работы, поскольку автономные ИИ‑агенты и угрозы постквантовой криптографии трансформируют ландшафт кибербезопасности.
Китайская хакерская группа APT31, поддерживаемая государством, использовала ИИ Gemini от Google для автоматизации анализа уязвимостей и планирования кибератак на американские цели, что стало значительным обострением в сфере кибервойн с применением ИИ.
Исследователи Университета Реджайны усилили инструмент обнаружения дезинформации CIPHER возможностями искусственного интеллекта, чтобы противодействовать ложным нарративам, ориентированным на канадцев. Система анализирует российские пропагандистские кампании и расширяется, чтобы распознавать дезинформацию на китайском языке.
