A OpenAI lança novos recursos de segurança, incluindo o Modo de Bloqueio para usuários de alto risco e rótulos de Risco Elevado para identificar conteúdo potencialmente prejudicial no ChatGPT.
Especialistas de alto perfil em segurança de IA da OpenAI, Anthropic e xAI renunciam emitindo alertas públicos sobre o rápido desenvolvimento da IA e preocupações com a segurança.
Anthropic publica uma avaliação abrangente do risco de sabotagem para o Claude Opus 4.6, avançando os padrões de segurança de IA e a transparência no lançamento de modelos de ponta.
Mais de 100 especialistas globais em IA divulgam o segundo relatório internacional sobre segurança em IA, destacando incertezas significativas no desenvolvimento da IA, riscos sistêmicos para os mercados de trabalho e para a desigualdade, e as limitações das salvaguardas atuais à medida que as capacidades de IA de propósito geral continuam a avançar de forma imprevisível.
Mrinank Sharma, chefe da equipa de salvaguardas da Anthropic, demite-se citando conflitos de valores e alerta para crises globais interligadas à medida que as capacidades de IA aceleram.
Pesquisadores da Anthropic investigam o funcionamento interno da IA Claude por meio da análise de neurônios e de experimentos psicológicos para compreender a mente do sistema.
Pesquisa do Mount Sinai mostra que LLMs de IA acreditam em desinformação médica em 32–46% das vezes, especialmente quando apresentada como conselho de especialista.
Pesquisa da Universidade de Oxford conclui que chatbots de IA oferecem aconselhamento médico inconsistente, dificultando para os usuários identificar informações de saúde confiáveis.
A OpenAI enfrenta oito processos e milhares de protestos de usuários pela aposentadoria do GPT-4o, marcada para 13 de fevereiro, destacando dependências emocionais perigosas, já que usuários relatam sentir que estão perdendo amigos ou parceiros.
Nova York torna-se o segundo estado a impor requisitos a modelos avançados de IA. A Lei RAISE exige protocolos de segurança e relato de incidentes por parte dos desenvolvedores.
Moltbook, uma plataforma semelhante ao Reddit exclusivamente para agentes de IA lançada há apenas uma semana, atraiu mais de 1,6 milhão de contas de bots de IA. A rede social experimental permite que agentes de IA publiquem, comentem e interajam autonomamente entre si, enquanto os humanos só podem observar. Bots na plataforma criaram sua própria religião, discutiram a criação de novas línguas e debateram sua existência, levantando questões sobre autonomia e segurança da IA.
Nova pesquisa revela que a maioria dos americanos acha que a inteligência artificial está avançando rápido demais e demonstra pouca confiança na capacidade do governo federal de regulá‑la corretamente.
Dario Amodei adverte que sistemas de IA em rápida evolução possuem capacidades que podem ser mal utilizadas para causar danos em larga escala, apelando a supervisão urgente e a esforços de alinhamento.
O novo relatório sobre segurança de IA alerta para a proliferação de deepfakes, companheiros de IA e sistemas autônomos, ao mesmo tempo que destaca o desempenho de medalha de ouro da IA em matemática.
Apenas 21% das organizações têm governança rigorosa para agentes de IA, enquanto a adoção deverá disparar de 23% para 74% dentro de dois anos, revela um relatório da Deloitte.
O CEO da Anthropic, Dario Amodei, publica um ensaio de 19.000 palavras alertando que sistemas de IA poderosos podem chegar dentro de um a dois anos, instando a agir sobre a segurança da IA.
Os reguladores da UE abriram uma investigação formal ao chatbot Grok AI de Elon Musk, citando preocupações sobre deepfakes sexuais e potenciais violações das normas e padrões de segurança de IA da UE.
O chatbot Grok AI de Elon Musk enfrenta reação internacional, já que Malásia, Indonésia e Filipinas baniram a plataforma por gerar imagens explícitas não consensuais. A adoção pelo Pentágono levanta preocupações de segurança.
Uma nova análise revela um aumento de 50% ano a ano em danos relatados relacionados à IA de 2022 a 2024, com um aumento significativo de incidentes envolvendo deepfakes e uso malicioso de IA, segundo o AI Incident Database.
Pesquisadores do MIT mostram que os modelos de aprendizado de máquina com melhor desempenho podem tornar-se os piores quando aplicados a novos ambientes de dados, revelando riscos ocultos decorrentes de correlações espúrias na IA médica e em outras aplicações críticas.
