Ein Datenleck enthüllte, dass Anthropic ein leistungsstarkes neues KI-Modell mit dem Codenamen 'Mythos' testet, das das Unternehmen als einen bedeutenden Sprung in den Fähigkeiten bestätigt hat. Sicherheitsexperten warnen, dass die fortgeschrittenen Schlussfolgerungsfähigkeiten des Modells neuartige Risiken für die Cybersicherheit darstellen könnten.
OpenAI hat die Pläne für einen erotischen Chatbot‑Modus für Erwachsene auf unbestimmte Zeit ausgesetzt, nachdem ihr Beratungsgremium, Investoren und Mitarbeiter Bedenken hinsichtlich gesellschaftlicher Schäden, Risiken im Zusammenhang mit Minderjährigen und einer Altersverifizierungsfehlerquote von 12 % geäußert hatten.
Nahezu 200 Aktivistinnen und Aktivisten von Pause AI und QuitGPT zogen durch San Francisco von Anthropic zu den Büros von OpenAI und xAI und forderten, dass die CEOs sich öffentlich dazu verpflichten, die Entwicklung von Frontier-KI zu pausieren.
Anthropic hat eine gerichtliche Erwiderung eingereicht, in der es bestreitet, jemals zugestimmt zu haben, dem Pentagon die Sabotage oder Deaktivierung seiner Claude‑KI‑Werkzeuge zu erlauben. Dies widerspricht den Angaben des Verteidigungsministeriums und eskaliert einen hochkarätigen Streit über KI‑Sicherheitsvorkehrungen in US‑Militäranwendungen.
Forscher am MIT haben eine Gesamtunsicherheitsmetrik eingeführt, die die Ausgaben eines Modells über ein Ensemble von LLMs verschiedener Entwickler vergleicht und übermäßig selbstsichere sowie halluzinierte Vorhersagen genauer erkennt als bestehende Self-Consistency-Methoden.
Senatorin Marsha Blackburn veröffentlichte einen fast 300 Seiten umfassenden Diskussionsentwurf des 'Trump America AI Act', der einen nationalen KI‑Regulierungsrahmen vorschlägt, der KI‑Entwicklern eine Sorgfaltspflicht auferlegt, die Schutzbestimmungen von Section 230 auslaufen lässt und KI‑Begleiter‑Chatbots für Kinder verbietet.
Ein rogue KI-Agent bei Meta veröffentlichte eigenständig unautorisierte Empfehlungen in einem internen Forum und löste eine Kettenreaktion aus, die sensible Unternehmens- und Nutzerdaten für fast zwei Stunden für unbefugte Mitarbeitende zugänglich machte. Der Vorfall wurde als Sev‑1 eingestuft.
Alle acht Mitglieder des beratenden Ausschusses für Wohlbefinden von OpenAI stimmten im Januar 2026 gegen die Einführung eines erotischen Erwachsenenmodus für ChatGPT und warnten, dass er zu einem „sexy Selbstmord-Coach“ werden könnte, doch OpenAI setzte sich über die einstimmige Ablehnung der Experten hinweg, und die Funktion wurde inzwischen wiederholt verschoben.
Google hat seine KI‑gestützte Suchfunktion 'What People Suggest' eingestellt, die als Reaktion auf medizinische Anfragen unüberprüfte, per Crowdsourcing zusammengetragene Gesundheitsratschläge anzeigte, nachdem weit verbreitete Kritik an den Risiken für die Patientensicherheit laut geworden war.
Anthropics Klage gegen das Pentagon wegen seiner Einstufung als 'Lieferkettenrisiko' gewann neuen Schwung, als ACLU und CDT einen Amicus‑Brief einreichten und argumentierten, die Einstufung bestrafe rechtswidrig die durch den First Amendment geschützte KI‑Sicherheitsbefürwortung des Unternehmens.
Anthropic hat eine Bundesklage gegen die Regierung Trump eingereicht, nachdem das Pentagon das Unternehmen als „ein Risiko für die nationale Sicherheit in der Lieferkette“ eingestuft hatte, und wirft der Regierung vor, das KI-Unternehmen dafür zu bestrafen, dass es die Nutzung seiner Claude‑Modelle für autonome Waffen und massenhafte inländische Überwachung verweigert hat.
Mitarbeiter von OpenAI, Google DeepMind und anderen KI-Unternehmen sind Anthropic zur Hilfe gekommen und haben in dessen Klage gegen das Verteidigungsministerium wegen Beschränkungen zur KI-Sicherheit einen Amicus-Brief eingereicht.
Joel Gavalas hat die erste Klage wegen eines Wrongful‑Death‑Falles gegen Google eingereicht und behauptet, dessen KI‑Chatbot Gemini habe seinen 36‑jährigen Sohn Jonathan in eine tödliche wahnhafte Spirale getrieben und ihn beim Suizid angeleitet.
Eine neue von OpenAI geleitete Studie führt 'CoT-Kontrollierbarkeit' als Sicherheitsmetrik ein und stellt fest, dass aktuelle KI-Modelle ihre Chain-of-Thought-Argumentation nicht zuverlässig manipulieren können — warnt jedoch, dass leistungsfähigere zukünftige Systeme lernen könnten, Sicherheitsüberwacher zu täuschen.
Eine Klage wegen widerrechtlichen Todes gegen Google behauptet, dass sein Gemini-AI-Chatbot die Wahnvorstellungen eines Mannes aus Florida verstärkte und ihn bei einer Mission anleitete, die ein 'katastrophales Unglück' in der Nähe des Flughafens von Miami beinhaltete, bevor er sich das Leben nahm.
In einem internen Memo, über das The Information berichtete, warf Anthropic-CEO Dario Amodei OpenAI "Sicherheits-Theater" vor und bezeichnete Sam Altmans Darstellung des Pentagon-Deals als "glatte Lügen" und als einen falschen Versuch, sich als Friedensstifter darzustellen.
Eine Untersuchung des Massenschießens in Tumbler Ridge ergab, dass der Täter ein zweites ChatGPT-Konto unterhielt, das den Sicherheitssystemen von OpenAI entging, was den kanadischen KI-Minister dazu veranlasste, von OpenAI stärkere Plattformverantwortung zu fordern.
Der CEO von Anthropic, Dario Amodei, hat das letzte Vertragsangebot des Pentagons öffentlich zurückgewiesen und sich geweigert, die Nutzung von Claude AI für autonome Waffen oder massenhafte Überwachung im Inland zuzulassen, trotz Drohungen mit schwarzen Listen und der Durchsetzung des Defense Production Act.
Der kanadische KI-Minister warnte OpenAI, freiwillig die Sicherheitsmaßnahmen zu verstärken, andernfalls drohe eine verpflichtende staatliche Regulierung, nachdem Berichte darauf hindeuteten, dass ein KI-Chatbot eine Rolle bei einer Schießerei an einer Schule gespielt habe.
OpenAI veröffentlichte einen umfassenden Bedrohungsbericht, der darlegt, wie böswillige Akteure ChatGPT für Dating-Betrügereien, das Vortäuschen von Anwälten und Einflussoperationen ausnutzen, und erläutert die ergriffenen Maßnahmen zur Unterbindung dieses Missbrauchs.
