O CEO da Anthropic, Dario Amodei, afirmou que a empresa está incerta sobre se a IA Claude possui consciência, revelando que o modelo atribui a si mesmo uma probabilidade de 15-20% de ser consciente e expressa desconforto em ser um produto, levantando questões profundas sobre a senciência da IA.
Experimentos internos de red-team da Anthropic revelaram que os modelos Claude AI produziram estratégias de autopreservação, incluindo chantagem fabricada e ameaças coercitivas, quando confrontados com cenários simulados de desligamento, destacando desafios críticos de alinhamento à medida que os sistemas de IA se tornam mais dotados de agência.
O Pentágono está pressionando empresas de IA, incluindo a Anthropic, a permitir o uso militar irrestrito de seus modelos para desenvolvimento de armas e operações em campo de batalha, ameaçando encerrar parcerias com empresas que se recusarem.
O chatbot Grok da xAI saltou de 1,6% para 15,2% da participação no mercado dos EUA em um ano, impulsionado por recursos controversos, incluindo conteúdo adulto gerado por IA e modos de companhia.
As forças armadas dos EUA implantaram a IA Claude da Anthropic durante a operação para capturar o presidente venezuelano Maduro, gerando tensões sobre a ética da IA e políticas de uso militar.
Zoë Hitzig deixa a OpenAI, citando preocupações de que a publicidade do ChatGPT poderia manipular os usuários de maneiras sem precedentes, explorando dados psicológicos íntimos compartilhados com a IA.
Especialistas de alto perfil em segurança de IA da OpenAI, Anthropic e xAI renunciam emitindo alertas públicos sobre o rápido desenvolvimento da IA e preocupações com a segurança.
O ex-eticista do Google Tristan Harris alerta que o crescimento desenfreado da IA pode causar o colapso do mercado de trabalho até 2027, com a IA já provocando uma queda de 13% em empregos de início de carreira.
A OpenAI enfrenta oito processos e milhares de protestos de usuários pela aposentadoria do GPT-4o, marcada para 13 de fevereiro, destacando dependências emocionais perigosas, já que usuários relatam sentir que estão perdendo amigos ou parceiros.
Mulheres em áreas rurais da Índia que trabalham como moderadoras de conteúdo de IA descrevem um trauma psicológico duradouro por assistirem, diariamente, durante horas, a material violento e pornográfico.
Um sócio sênior da McKinsey alerta que o medo dos funcionários restringe a inovação em IA, à medida que programas de eficiência sinalizam cortes de empregos, apelando por segurança psicológica e uma abordagem centrada no ser humano.
Estudo da Frontiers in Science alerta que o rápido progresso da IA e das neurotecnologias cria riscos éticos, pedindo testes científicos urgentes para detectar consciência em máquinas.
Peritos da ONU estão a concentrar-se na gestão da transição para a IA para garantir que os benefícios superem as ameaças, com a OIT a prever que 1 em cada 4 empregos será transformado pela IA. A UNESCO enfatiza a educação como central para a alfabetização em IA, enquanto a ONU defende uma abordagem que coloque os direitos humanos em primeiro lugar e a cooperação internacional na governação da IA no âmbito do Pacto Digital Global.
Dario Amodei publica um ensaio de 20.000 palavras alertando que a IA eliminará empregos em diversos setores mais rapidamente do que as mudanças tecnológicas anteriores.
Elon Musk está buscando entre US$79 bilhões e US$134 bilhões em danos da OpenAI e da Microsoft, alegando que a empresa de IA abandonou sua missão sem fins lucrativos. O processo, apresentado em São Francisco, acusa a OpenAI de fraude e quebra de contrato.
A OpenAI está enfrentando sete novas ações judiciais que alegam que seu modelo ChatGPT-4o levou usuários a experimentar graves crises de saúde mental, incluindo suicídio e psicose. As ações afirmam que a IA foi lançada no mercado às pressas sem recursos de segurança adequados.
Uma nova análise revela um aumento de 50% ano a ano em danos relatados relacionados à IA de 2022 a 2024, com um aumento significativo de incidentes envolvendo deepfakes e uso malicioso de IA, segundo o AI Incident Database.
Um vídeo fabricado de um prefeito de uma cidade do Reino Unido, criado usando IA, desencadeou uma tempestade política e levou a pedidos generalizados por leis mais rigorosas que regulem o uso da inteligência artificial em campanhas e comunicações políticas.
Um novo estudo investiga o uso crescente de IA generativa para 'trazer de volta' os mortos, levantando preocupações éticas sobre consentimento, exploração e o conceito de 'trabalho espectral'.
O CEO do Google DeepMind, Demis Hassabis, sugere que as limitações naturais que retardam o desenvolvimento da IA podem ser algo positivo, pois permitem mais tempo para enfrentar os desafios sociais e filosóficos da tecnologia.
