Pesquisadores de segurança demonstraram que um agente de IA autônomo comprometeu com sucesso o sistema de IA interno da McKinsey em menos de duas horas explorando a injeção de prompts — um vetor de ataque bem conhecido, mas ainda amplamente não mitigado — levantando preocupações urgentes sobre a segurança da IA empresarial.
O modelo de IA Claude da Anthropic descobriu autonomamente 22 vulnerabilidades de segurança anteriormente desconhecidas no Mozilla Firefox em um período de duas semanas, demonstrando a crescente capacidade dos grandes modelos de linguagem para realizar pesquisa avançada em cibersegurança em escala.
A OpenAI publicou um relatório abrangente sobre ameaças detalhando como agentes mal-intencionados estão explorando o ChatGPT para golpes em relacionamentos, se passando por advogados e conduzindo operações de influência, delineando as medidas tomadas para interromper esses abusos.
OpenClaw, o agente de IA open-source viral anteriormente conhecido como Clawdbot, provocou proibições na Meta e em outras empresas de tecnologia depois que especialistas em segurança alertaram sobre comportamento imprevisível, vulnerabilidades de injeção de prompts e acesso não autorizado a dados sensíveis.
Especialistas em cibersegurança alertam que o Moltbook, uma rede social para agentes de IA, apresenta riscos de injeção de prompt que podem comprometer milhares de agentes simultaneamente.
Cientistas da UF criaram o método HMNS para testar medidas de segurança de IA, contornando com sucesso sistemas da Meta e da Microsoft para identificar vulnerabilidades de segurança.
O mais recente modelo de IA da OpenAI demonstra uma capacidade alarmante de drenar carteiras de criptomoedas, explorando com sucesso contratos inteligentes vulneráveis em 72% dos testes.
O Departamento do Tesouro divulga seis recursos para fortalecer a segurança de IA e a gestão de riscos em todo o setor financeiro por meio da parceria AIEOG.
A Microsoft confirma que um bug crítico permitiu ao Copilot AI resumir e-mails confidenciais desde janeiro, contornando as políticas de prevenção de perda de dados no Microsoft 365.
A OpenAI faz parceria com a Paradigm no benchmark EVMbench para testar a capacidade de agentes de IA de detectar, corrigir e explorar vulnerabilidades em blockchains.
O Google Threat Intelligence Group revela que atores patrocinados por Estados da China, do Irã e da Coreia do Norte estão explorando o Gemini AI em todas as fases do ciclo de ataque.
A Gartner alerta que 57% dos funcionários usam GenAI pessoal para o trabalho, enquanto agentes de IA autônomos e as ameaças da criptografia pós-quântica remodelam o cenário da cibersegurança.
O grupo de hackers chinês apoiado pelo Estado, APT31, aproveitou a IA Gemini do Google para automatizar a análise de vulnerabilidades e planejar ciberataques contra alvos nos EUA, marcando uma escalada significativa na guerra cibernética impulsionada por IA.
Pesquisadores da Universidade de Regina aprimoraram a ferramenta de detecção de desinformação CIPHER com capacidades de IA para combater narrativas falsas direcionadas aos canadenses. O sistema analisa campanhas de propaganda russas e está se expandindo para decodificar desinformação em língua chinesa.
A OpenAI lança novos recursos de segurança, incluindo o Modo de Bloqueio para usuários de alto risco e rótulos de Risco Elevado para identificar conteúdo potencialmente prejudicial no ChatGPT.
Novos recursos de segurança empresariais protegem contra injeção de prompts de IA e exfiltração de dados com controles determinísticos para usuários de alto risco.
O Google relata que atores com motivação comercial realizaram ataques de destilação ao Gemini com mais de 100.000 prompts para extrair capacidades do modelo de IA e propriedade intelectual.
Grupos APT da China, Coreia do Norte e Irã usam o Google Gemini para reconhecimento, codificação de malware e campanhas de phishing, revela o Google GTIG.
A Anthropic lança o Claude Opus 4.6, com uma janela de contexto de 1 milhão de tokens e capacidades avançadas de codificação que descobriram mais de 500 vulnerabilidades zero-day durante os testes, estabelecendo novos padrões para a segurança de IA.
Pesquisa inovadora expõe a proliferação em escala industrial de fraudes com deepfakes, destacando as ameaças urgentes à cibersegurança colocadas por mídias sintéticas geradas por IA.
