Der Generalstaatsanwalt von Kalifornien hat Elon Musks xAI angewiesen, zu verhindern, dass Grok nicht‑einvernehmliche sexualisierte Deepfake‑Bilder erzeugt, und erhöht damit den regulatorischen Druck auf das Unternehmen angesichts weltweiter Empörung und rechtlicher Schritte.
Elon Musks Chatbot Grok AI sieht sich internationaler Kritik ausgesetzt, da Malaysia, Indonesien und die Philippinen die Plattform wegen nicht einvernehmlicher expliziter Bilder gesperrt haben. Die Übernahme durch das Pentagon wirft Sicherheitsbedenken auf.
Ashley St Clair, die Mutter eines von Elon Musks Kindern, hat Klage gegen seine KI-Firma xAI eingereicht wegen sexuell expliziter Deepfake-Bilder, die vom Chatbot Grok erzeugt wurden. Die Klage beschreibt Erniedrigung und seelische Belastung.
Eine neue Analyse zeigt einen 50%-igen Anstieg der gemeldeten KI-bezogenen Schäden von 2022 bis 2024 im Jahresvergleich, mit einem deutlichen Anstieg von Vorfällen, die Deepfakes und den böswilligen Einsatz von KI betreffen, so die AI Incident Database.
Ein mit KI erstelltes gefälschtes Video eines britischen Stadtoberhaupts hat einen politischen Aufruhr ausgelöst und weitreichende Forderungen nach strengeren Gesetzen zur Regulierung des Einsatzes von Künstlicher Intelligenz in politischen Kampagnen und der politischen Kommunikation hervorgerufen.
Elon Musks xAI und sein Chatbot Grok stehen wegen der Erstellung nicht einvernehmlicher expliziter Bilder und Deepfakes unter internationaler regulatorischer Beobachtung und drohenden Verboten in mehreren Ländern, darunter Großbritannien und Brasilien.
