Bundesbehörden setzen GenAI-Browser und autonomes Purple Teaming ein, um auf aufkommende KI-Sicherheitsbedrohungen und sich ändernde Vorschriften zu reagieren.

In der neuen Claude Cowork AI von Anthropic wurde eine Prompt-Injection-Schwachstelle entdeckt, die es Angreifern ermöglichen könnte, vertrauliche Dateien aus Benutzerkonten zu exfiltrieren.

Forscher von OpenAI, Anthropic und Google DeepMind umgingen 12 veröffentlichte KI-Abwehrmaßnahmen mit einer Erfolgsrate von über 90 % und deckten damit kritische Sicherheitslücken in Produktionssystemen auf.