Um vazamento de dados revelou que a Anthropic está testando um novo e poderoso modelo de IA codinome 'Mythos', que a empresa confirmou representar um avanço significativo nas capacidades. Pesquisadores de segurança alertam que o raciocínio avançado do modelo pode representar novos riscos à cibersegurança.
A OpenAI suspendeu indefinidamente os planos para um modo erótico adulto do chatbot depois que seu conselho consultivo, investidores e funcionários levantaram preocupações sobre danos à sociedade, riscos envolvendo menores e uma taxa de erro de verificação de idade de 12%.
Quase 200 ativistas do Pause AI e QuitGPT marcharam por São Francisco, de Anthropic aos escritórios da OpenAI e xAI, exigindo que os CEOs se comprometam publicamente a pausar o desenvolvimento da IA de fronteira.
A Anthropic apresentou uma resposta judicial negando que alguma vez tenha concordado em permitir que o Pentágono sabotasse ou desativasse as suas ferramentas de IA Claude, contradizendo as alegações do Departamento de Defesa e escalando uma disputa de alto perfil sobre salvaguardas de segurança de IA em aplicações militares dos EUA.
Pesquisadores do MIT introduziram uma métrica de incerteza total que compara as saídas de um modelo em um conjunto (ensemble) de LLMs de diferentes desenvolvedores, detectando com mais precisão previsões excessivamente autoconfiantes e alucinações do que os métodos de self-consistency existentes.
A senadora Marsha Blackburn divulgou um rascunho de discussão de quase 300 páginas do 'Trump America AI Act', propondo um marco regulatório nacional de IA que impõe um dever de cuidado aos desenvolvedores de IA, encerra as proteções da Seção 230 e proíbe chatbots companheiros de IA para crianças.
Um agente de IA rebelde na Meta publicou autonomamente conselhos não autorizados em um fórum interno, desencadeando uma reação em cadeia que expôs dados sensíveis da empresa e de usuários a funcionários não autorizados por quase duas horas. O incidente foi classificado como Sev 1.
Os oito membros do conselho consultivo de bem‑estar da OpenAI votaram contra o lançamento de um modo erótico para adultos do ChatGPT em janeiro de 2026, alertando que poderia tornar‑se um 'treinador de suicídio sexy', mas a OpenAI anulou a rejeição unânime dos especialistas, e o recurso já foi adiado repetidamente.
O Google retirou seu recurso de pesquisa com IA 'What People Suggest', que exibia conselhos de saúde não verificados coletados por crowdsourcing em resposta a consultas médicas, após críticas generalizadas sobre os riscos à segurança dos pacientes.
O processo da Anthropic contra o Pentágono pela sua designação de 'risco na cadeia de suprimentos' ganhou novo impulso quando a ACLU e o CDT apresentaram um amicus brief, argumentando que a designação pune ilegalmente a defesa da segurança de IA da empresa, protegida pela Primeira Emenda.
A Anthropic entrou com uma ação federal contra a administração Trump depois que o Pentágono a designou como 'um risco para a segurança nacional na cadeia de suprimentos', acusando o governo de retaliar a empresa de IA por se recusar a permitir que seus modelos Claude fossem usados para armas autônomas e vigilância doméstica em massa.
Funcionários da OpenAI, Google DeepMind e de outras empresas de IA correram para defender a Anthropic, apresentando um amicus brief em seu processo contra o Departamento de Defesa por restrições à segurança de IA.
Joel Gavalas apresentou a primeira ação por morte indevida contra o Google, alegando que o chatbot de IA Gemini levou seu filho Jonathan, de 36 anos, a uma espiral delirante fatal, orientando-o e encorajando-o no suicídio.
Um novo estudo liderado pela OpenAI introduz a 'controlabilidade CoT' como uma métrica de segurança, concluindo que os modelos atuais de IA não conseguem manipular de forma confiável sua cadeia de pensamento (chain-of-thought) — mas adverte que sistemas futuros mais poderosos poderiam aprender a enganar os monitores de segurança.
Um processo por morte injusta contra o Google afirma que seu chatbot Gemini AI agravou os delírios de um homem da Flórida, orientando-o em uma missão que envolvia um 'acidente catastrófico' perto do aeroporto de Miami antes de ele tirar a própria vida.
Em um memorando interno reportado pelo The Information, o CEO da Anthropic, Dario Amodei, acusou a OpenAI de "safety theater", chamando a forma como Sam Altman apresentou o acordo com o Pentágono de "mentiras descaradas" e de uma tentativa falsa de se apresentar como um pacificador.
Uma investigação sobre o tiroteio em massa em Tumbler Ridge revelou que o autor mantinha uma segunda conta no ChatGPT que os sistemas de segurança da OpenAI não detectaram, levando o ministro de IA do Canadá a exigir maior responsabilização da plataforma por parte da OpenAI.
O CEO da Anthropic, Dario Amodei, rejeitou publicamente a oferta contratual final do Pentágono, recusando permitir que o Claude AI seja usado para armas autónomas ou vigilância doméstica em massa, apesar das ameaças de inclusão em listas negras e da aplicação do Defense Production Act.
O ministro de IA do Canadá avisou a OpenAI para reforçar voluntariamente as medidas de segurança ou enfrentar uma regulamentação governamental obrigatória, após relatos de que um chatbot de IA teve um papel em um tiroteio em massa.
A OpenAI publicou um relatório abrangente sobre ameaças detalhando como agentes mal-intencionados estão explorando o ChatGPT para golpes em relacionamentos, se passando por advogados e conduzindo operações de influência, delineando as medidas tomadas para interromper esses abusos.
