Pesquisadores de segurança demonstraram que um agente de IA autônomo comprometeu com sucesso o sistema de IA interno da McKinsey em menos de duas horas explorando a injeção de prompts — um vetor de ataque bem conhecido, mas ainda amplamente não mitigado — levantando preocupações urgentes sobre a segurança da IA empresarial.
A OpenAI anunciou a aquisição da Promptfoo, uma startup open-source de segurança de IA e red-teaming, para reforçar a segurança e a confiabilidade dos seus agentes de IA contra ataques adversariais e vulnerabilidades de injeção de prompts.
A Anthropic acusou publicamente laboratórios de IA chineses de extraírem sistematicamente conhecimento de seus modelos Claude por meio de ataques de destilação, lançando novas pesquisas sobre detecção e prevenção enquanto os EUA debatem controles de exportação de chips de IA.
O Microsoft Copilot contornou políticas de DLP e rótulos de sensibilidade duas vezes em oito meses — incluindo uma exposição de quatro semanas que afetou o NHS do Reino Unido — revelando um ponto cego sistêmico nas pilhas de segurança de IA empresariais.
A Anthropic lançou o Claude Code Security, uma nova ferramenta de segurança de aplicações movida a IA que varre bases de código em busca de vulnerabilidades complexas usando raciocínio semelhante ao humano, fazendo as ações de empresas de cibersegurança despencarem com a notícia.
Especialistas em cibersegurança alertam que o Moltbook, uma rede social para agentes de IA, apresenta riscos de injeção de prompt que podem comprometer milhares de agentes simultaneamente.
Cientistas da UF criaram o método HMNS para testar medidas de segurança de IA, contornando com sucesso sistemas da Meta e da Microsoft para identificar vulnerabilidades de segurança.
O mais recente modelo de IA da OpenAI demonstra uma capacidade alarmante de drenar carteiras de criptomoedas, explorando com sucesso contratos inteligentes vulneráveis em 72% dos testes.
O Departamento do Tesouro divulga seis recursos para fortalecer a segurança de IA e a gestão de riscos em todo o setor financeiro por meio da parceria AIEOG.
A Microsoft confirma que um bug crítico permitiu ao Copilot AI resumir e-mails confidenciais desde janeiro, contornando as políticas de prevenção de perda de dados no Microsoft 365.
A Gartner alerta que 57% dos funcionários usam GenAI pessoal para o trabalho, enquanto agentes de IA autônomos e as ameaças da criptografia pós-quântica remodelam o cenário da cibersegurança.
O grupo de hackers chinês apoiado pelo Estado, APT31, aproveitou a IA Gemini do Google para automatizar a análise de vulnerabilidades e planejar ciberataques contra alvos nos EUA, marcando uma escalada significativa na guerra cibernética impulsionada por IA.
Pesquisadores da Universidade de Regina aprimoraram a ferramenta de detecção de desinformação CIPHER com capacidades de IA para combater narrativas falsas direcionadas aos canadenses. O sistema analisa campanhas de propaganda russas e está se expandindo para decodificar desinformação em língua chinesa.
O Google relata que atores com motivação comercial realizaram ataques de destilação ao Gemini com mais de 100.000 prompts para extrair capacidades do modelo de IA e propriedade intelectual.
Grupos APT da China, Coreia do Norte e Irã usam o Google Gemini para reconhecimento, codificação de malware e campanhas de phishing, revela o Google GTIG.
Pesquisa inovadora expõe a proliferação em escala industrial de fraudes com deepfakes, destacando as ameaças urgentes à cibersegurança colocadas por mídias sintéticas geradas por IA.
Backend Firebase mal configurado expõe 300 milhões de mensagens de chat de IA de 25 milhões de usuários, incluindo históricos completos de conversas e configurações.
Pesquisadores da Microsoft revelam um método de detecção para modelos de IA envenenados que alcança 88% de precisão com zero falsos positivos em 47 modelos de agentes adormecidos.
Pesquisadores de cibersegurança alertam que agentes de IA estão expandindo rapidamente a superfície de ataque, com 95% das implantações do Model Context Protocol (MCP) rodando em endpoints de funcionários sem visibilidade de segurança. A GreyNoise registrou mais de 91.000 sessões de ataque em infraestrutura de LLM em três meses, enquanto Estados-nação como o Irã e a China estão aproveitando a IA para capacidades de ciberguerra.
Agências federais adotam navegadores GenAI e purple teaming autônomo para enfrentar novas ameaças de segurança de IA e a evolução das regulamentações.
