Федеральные ведомства внедряют браузеры GenAI и автономный purple teaming для противодействия новым угрозам безопасности ИИ и изменяющимся нормативным требованиям.
В новом ИИ Claude Cowork компании Anthropic обнаружена уязвимость внедрения подсказок, которая может позволить злоумышленникам эксфильтрировать конфиденциальные файлы из учётных записей пользователей.
Исследователи из OpenAI, Anthropic и Google DeepMind обошли 12 опубликованных систем защиты ИИ с эффективностью более 90%, что выявило критические пробелы в безопасности в продукционных системах.
