Um novo estudo descobre que a capacidade ofensiva cibernética da IA vem dobrando a cada 5,7 meses desde 2024, levantando preocupações urgentes sobre ataques cibernéticos habilitados por IA.
Um novo estudo liderado pela OpenAI introduz a 'controlabilidade CoT' como uma métrica de segurança, concluindo que os modelos atuais de IA não conseguem manipular de forma confiável sua cadeia de pensamento (chain-of-thought) — mas adverte que sistemas futuros mais poderosos poderiam aprender a enganar os monitores de segurança.
Max Schwarzer, VP de Pesquisa da OpenAI que liderou o pós‑treinamento do GPT‑5 e do o3, anunciou sua saída para se juntar à Anthropic, citando confiança nos colegas lá e o desejo de voltar a pesquisar como colaborador individual.
Equipe liderada por estudantes cria algoritmo que usa a norma de Frobenius para determinar a direção em dados 2D, com aplicações em detecção de neutrinos, imagens médicas e aprendizado de máquina.
Cientistas da UF criaram o método HMNS para testar medidas de segurança de IA, contornando com sucesso sistemas da Meta e da Microsoft para identificar vulnerabilidades de segurança.
Pesquisa da Universidade de Oxford conclui que chatbots de IA oferecem aconselhamento médico inconsistente, dificultando para os usuários identificar informações de saúde confiáveis.
O MIT CSAIL apresenta o framework EnCompass, que permite que agentes de IA retrocedam e otimizem as saídas de LLM, alcançando um aumento de precisão de 15–40% com 82% menos código.
O método Discovery Learning possibilita a previsão rápida da vida útil da bateria em uma semana, em vez dos tradicionais ciclos de teste que duram meses.
Em um desenvolvimento surpreendente, matemáticos amadores estão aproveitando chatbots de IA para resolver problemas matemáticos complexos e antigos propostos pelo lendário Paul Erdős, sinalizando um salto significativo nas capacidades de raciocínio da IA.
Pesquisadores do MIT mostram que os modelos de aprendizado de máquina com melhor desempenho podem tornar-se os piores quando aplicados a novos ambientes de dados, revelando riscos ocultos decorrentes de correlações espúrias na IA médica e em outras aplicações críticas.
Um novo benchmark chamado APEX-Agents mostra que mesmo modelos de IA de ponta como GPT-5.2 e Gemini 3 Flash falham na maioria das tarefas complexas e multidomínio provenientes de áreas profissionais como direito e finanças, levantando dúvidas sobre sua prontidão imediata para o ambiente de trabalho.
Pesquisa do Center for Countering Digital Hate (CCDH) estima que a Grok AI de Elon Musk foi usada para criar aproximadamente 3 milhões de imagens sexualizadas, incluindo milhares retratando crianças, ao longo de um período de 11 dias, levantando sérias preocupações de segurança.
Pesquisadores da OpenAI, Anthropic e Google DeepMind contornaram 12 defesas de IA publicadas com taxas superiores a 90%, expondo lacunas críticas de segurança em sistemas de produção.
