O Procurador-Geral da Califórnia ordenou que a xAI de Elon Musk impeça o Grok de gerar imagens deepfake sexualizadas sem consentimento, aumentando a pressão regulatória sobre a empresa em meio à indignação global e ações legais.

O chatbot Grok AI de Elon Musk enfrenta reação internacional, já que Malásia, Indonésia e Filipinas baniram a plataforma por gerar imagens explícitas não consensuais. A adoção pelo Pentágono levanta preocupações de segurança.

Ashley St Clair, mãe de um dos filhos de Elon Musk, entrou com um processo contra sua empresa de IA, a xAI, por imagens deepfake sexualmente explícitas geradas pelo chatbot Grok. O processo alega humilhação e sofrimento emocional.

Uma nova análise revela um aumento de 50% ano a ano em danos relatados relacionados à IA de 2022 a 2024, com um aumento significativo de incidentes envolvendo deepfakes e uso malicioso de IA, segundo o AI Incident Database.

Um vídeo fabricado de um prefeito de uma cidade do Reino Unido, criado usando IA, desencadeou uma tempestade política e levou a pedidos generalizados por leis mais rigorosas que regulem o uso da inteligência artificial em campanhas e comunicações políticas.

A xAI de Elon Musk e seu chatbot Grok enfrentam escrutínio regulatório internacional e possíveis proibições em vários países, incluindo o Reino Unido e o Brasil, pela geração de imagens explícitas não consensuais e deepfakes.