Sicherheitsforscher demonstrierten, dass ein autonomer KI-Agent McKinseys internes KI-System in weniger als zwei Stunden erfolgreich kompromittierte, indem er eine Prompt-Injection ausnutzte — einen bekannten, aber weiterhin weitgehend nicht abgemilderten Angriffsvektor — was dringende Bedenken hinsichtlich der Sicherheit von Unternehmens-KI aufwirft.

Das Claude-KI-Modell von Anthropic entdeckte innerhalb von zwei Wochen autonom 22 bisher unbekannte Sicherheitslücken in Mozilla Firefox und demonstrierte damit die zunehmende Fähigkeit großer Sprachmodelle, fortgeschrittene Cybersicherheitsforschung in großem Maßstab durchzuführen.

OpenAI veröffentlichte einen umfassenden Bedrohungsbericht, der darlegt, wie böswillige Akteure ChatGPT für Dating-Betrügereien, das Vortäuschen von Anwälten und Einflussoperationen ausnutzen, und erläutert die ergriffenen Maßnahmen zur Unterbindung dieses Missbrauchs.

OpenClaw, der virale Open-Source-KI-Agent, früher bekannt als Clawdbot, hat bei Meta und anderen Technologieunternehmen Verbote ausgelöst, nachdem Sicherheitsexperten vor unvorhersehbarem Verhalten, Prompt-Injection-Schwachstellen und unbefugtem Zugriff auf sensible Daten gewarnt hatten.

Cybersicherheitsexperten warnen, dass Moltbook, ein soziales Netzwerk für KI-Agenten, Prompt-Injection-Risiken birgt, die Tausende von Agenten gleichzeitig kompromittieren könnten.

Wissenschaftler der UF entwickelten die HMNS-Methode, um KI-Sicherheitsmaßnahmen zu testen, und umgingen erfolgreich Systeme von Meta und Microsoft, um Sicherheitslücken zu identifizieren.

Das neueste KI-Modell von OpenAI zeigt eine alarmierende Fähigkeit, Kryptowährungs-Wallets zu leeren, indem es in 72% der Tests verwundbare Smart Contracts erfolgreich ausnutzt.

Das Finanzministerium veröffentlicht sechs Ressourcen, um durch die AIEOG-Partnerschaft die KI-Sicherheit und das Risikomanagement im gesamten Finanzsektor zu stärken.

Microsoft bestätigt, dass ein kritischer Fehler seit Januar Copilot AI erlaubte, vertrauliche E-Mails zusammenzufassen und dadurch die Richtlinien zur Verhinderung von Datenverlust in Microsoft 365 umging.

OpenAI arbeitet mit Paradigm an dem Benchmark EVMbench, der die Fähigkeit von KI-Agenten testet, Blockchain-Schwachstellen zu erkennen, zu beheben und auszunutzen.

Die Google Threat Intelligence Group berichtet, dass staatlich geförderte Akteure aus China, dem Iran und Nordkorea Gemini AI in allen Phasen des Angriffszyklus ausnutzen.

Gartner warnt, dass 57 % der Beschäftigten persönliche GenAI für die Arbeit nutzen, während autonome KI‑Agenten und Bedrohungen durch postquantische Kryptographie die Cybersicherheitslandschaft neu gestalten.

Die vom Staat unterstützte chinesische Hackergruppe APT31 nutzte Googles KI Gemini, um die Schwachstellenanalyse zu automatisieren und Cyberangriffe auf US-Ziele zu planen, was eine bedeutende Eskalation der KI-gestützten Cyberkriegsführung darstellt.

Forscher der University of Regina haben das Desinformations-Erkennungstool CIPHER mit KI-Funktionen verbessert, um falschen Narrativen entgegenzuwirken, die sich gegen Kanadier richten. Das System analysiert russische Propagandakampagnen und wird erweitert, um Desinformation in chinesischer Sprache zu entschlüsseln.

OpenAI stellt neue Sicherheitsfunktionen vor, darunter einen Sperrmodus für Hochrisikonutzer und Kennzeichnungen „Erhöhtes Risiko“, um potenziell schädliche Inhalte in ChatGPT zu identifizieren.

Neue Sicherheitsfunktionen für Unternehmen schützen vor KI-Prompt-Injection und Datenexfiltration mit deterministischen Kontrollen für Nutzer mit hohem Risiko.

Google berichtet, dass kommerziell motivierte Akteure Distillationsangriffe auf Gemini durchgeführt haben und dabei über 100.000 Anfragen nutzten, um die Fähigkeiten des KI-Modells und geistiges Eigentum zu extrahieren.

APT-Gruppen aus China, Nordkorea und Iran nutzen Google Gemini für Aufklärung, Malware-Codierung und Phishing-Kampagnen, berichtet Google GTIG.

Anthropic veröffentlicht Claude Opus 4.6 mit einem Kontextfenster von 1 Million Tokens und fortschrittlichen Codierfähigkeiten, die während Tests über 500 Zero-Day-Schwachstellen entdeckten und damit neue Maßstäbe für KI-Sicherheit setzen.

Bahnbrechende Forschung legt die Verbreitung von Deepfake-Betrug im industriellen Maßstab offen und macht dringende Cybersicherheitsbedrohungen durch KI-erzeugte synthetische Medien sichtbar.