Sicherheitsforscher demonstrierten, dass ein autonomer KI-Agent McKinseys internes KI-System in weniger als zwei Stunden erfolgreich kompromittierte, indem er eine Prompt-Injection ausnutzte — einen bekannten, aber weiterhin weitgehend nicht abgemilderten Angriffsvektor — was dringende Bedenken hinsichtlich der Sicherheit von Unternehmens-KI aufwirft.

OpenAI hat die Übernahme von Promptfoo angekündigt, einem Open-Source-Startup für AI-Sicherheit und Red-Teaming, um die Sicherheit und Zuverlässigkeit seiner KI-Agenten gegenüber adversarialen Angriffen und Prompt-Injection-Schwachstellen zu erhöhen.

Anthropic beschuldigte öffentlich chinesische KI-Labore, systematisch Wissen aus seinen Claude-Modellen durch Distillationsangriffe zu extrahieren, und veröffentlichte neue Forschung zu Erkennung und Prävention, während die USA über Exportkontrollen für KI-Chips debattieren.

Microsoft Copilot umging in acht Monaten zweimal DLP-Richtlinien und Sensitivitätskennzeichnungen — darunter eine vierwöchige Offenlegung, die das NHS im Vereinigten Königreich betraf — und offenbart damit eine systemische Schwachstelle in den Sicherheits-Stacks für KI in Unternehmen.

Anthropic hat Claude Code Security veröffentlicht, ein neues KI-gestütztes Anwendungssicherheitstool, das Codebasen mit menschenähnlicher Schlussfolgerung nach komplexen Schwachstellen durchsucht und damit Cybersecurity-Aktien wegen der Meldung abstürzen ließ.

Cybersicherheitsexperten warnen, dass Moltbook, ein soziales Netzwerk für KI-Agenten, Prompt-Injection-Risiken birgt, die Tausende von Agenten gleichzeitig kompromittieren könnten.

Wissenschaftler der UF entwickelten die HMNS-Methode, um KI-Sicherheitsmaßnahmen zu testen, und umgingen erfolgreich Systeme von Meta und Microsoft, um Sicherheitslücken zu identifizieren.

Das neueste KI-Modell von OpenAI zeigt eine alarmierende Fähigkeit, Kryptowährungs-Wallets zu leeren, indem es in 72% der Tests verwundbare Smart Contracts erfolgreich ausnutzt.

Das Finanzministerium veröffentlicht sechs Ressourcen, um durch die AIEOG-Partnerschaft die KI-Sicherheit und das Risikomanagement im gesamten Finanzsektor zu stärken.

Microsoft bestätigt, dass ein kritischer Fehler seit Januar Copilot AI erlaubte, vertrauliche E-Mails zusammenzufassen und dadurch die Richtlinien zur Verhinderung von Datenverlust in Microsoft 365 umging.

Gartner warnt, dass 57 % der Beschäftigten persönliche GenAI für die Arbeit nutzen, während autonome KI‑Agenten und Bedrohungen durch postquantische Kryptographie die Cybersicherheitslandschaft neu gestalten.

Die vom Staat unterstützte chinesische Hackergruppe APT31 nutzte Googles KI Gemini, um die Schwachstellenanalyse zu automatisieren und Cyberangriffe auf US-Ziele zu planen, was eine bedeutende Eskalation der KI-gestützten Cyberkriegsführung darstellt.

Forscher der University of Regina haben das Desinformations-Erkennungstool CIPHER mit KI-Funktionen verbessert, um falschen Narrativen entgegenzuwirken, die sich gegen Kanadier richten. Das System analysiert russische Propagandakampagnen und wird erweitert, um Desinformation in chinesischer Sprache zu entschlüsseln.

Google berichtet, dass kommerziell motivierte Akteure Distillationsangriffe auf Gemini durchgeführt haben und dabei über 100.000 Anfragen nutzten, um die Fähigkeiten des KI-Modells und geistiges Eigentum zu extrahieren.

APT-Gruppen aus China, Nordkorea und Iran nutzen Google Gemini für Aufklärung, Malware-Codierung und Phishing-Kampagnen, berichtet Google GTIG.

Bahnbrechende Forschung legt die Verbreitung von Deepfake-Betrug im industriellen Maßstab offen und macht dringende Cybersicherheitsbedrohungen durch KI-erzeugte synthetische Medien sichtbar.

Fehlkonfiguriertes Firebase-Backend setzt 300 Mio. KI-Chatnachrichten von 25 Mio. Nutzern offen, einschließlich vollständiger Konversationsverläufe und Einstellungen.

Forscher von Microsoft stellen eine Methode zur Erkennung vergifteter KI-Modelle vor, die bei 47 Schläferagenten-Modellen 88 % Genauigkeit erzielt und keine Fehlalarme aufweist.

Cybersicherheitsforscher warnen, dass KI-Agenten die Angriffsfläche schnell erweitern, wobei 95 % der Model Context Protocol (MCP)-Bereitstellungen auf Endgeräten von Mitarbeitern ohne Sicherheitsüberwachung laufen. GreyNoise verzeichnete in drei Monaten über 91.000 Angriffssitzungen gegen LLM-Infrastrukturen, während Staaten wie Iran und China KI für cyberkriegerische Fähigkeiten nutzen.

Bundesbehörden setzen GenAI-Browser und autonomes Purple Teaming ein, um auf aufkommende KI-Sicherheitsbedrohungen und sich ändernde Vorschriften zu reagieren.