Des chercheurs en sécurité ont démontré qu'un agent IA autonome a compromis avec succès le système IA interne de McKinsey en moins de deux heures en exploitant l'injection de prompts — un vecteur d'attaque bien connu mais toujours largement non atténué — suscitant des inquiétudes urgentes concernant la sécurité de l'IA en entreprise.
OpenAI a annoncé l'acquisition de Promptfoo, une startup open source spécialisée dans la sécurité de l'IA et le red-teaming, afin de renforcer la sécurité et la fiabilité de ses agents IA face aux attaques adversariales et aux vulnérabilités d'injection de prompts.
Anthropic a publiquement accusé des laboratoires d'IA chinois d'extraire systématiquement des connaissances de ses modèles Claude via des attaques de distillation, publiant de nouvelles recherches sur la détection et la prévention alors que les États-Unis débattent des contrôles à l'exportation des puces d'IA.
Microsoft Copilot a contourné les politiques DLP et les étiquettes de sensibilité à deux reprises en huit mois — y compris une exposition de quatre semaines affectant le NHS du Royaume‑Uni — révélant un angle mort systémique dans les piles de sécurité IA des entreprises.
Anthropic a lancé Claude Code Security, un nouvel outil de sécurité applicative propulsé par l'IA qui analyse les bases de code à la recherche de vulnérabilités complexes en utilisant un raisonnement proche de l'humain, provoquant la chute des actions des sociétés de cybersécurité à l'annonce.
Des experts en cybersécurité avertissent que Moltbook, un réseau social pour agents IA, présente des risques d'injection de prompts pouvant compromettre des milliers d'agents simultanément.
Des scientifiques de l'UF ont créé la méthode HMNS pour tester les mesures de sécurité de l'IA, contournant avec succès les systèmes de Meta et Microsoft afin d'identifier des vulnérabilités.
Le dernier modèle d'IA d'OpenAI démontre une capacité alarmante à vider des portefeuilles de cryptomonnaies, exploitant avec succès des smart contracts vulnérables dans 72% des tests.
Le département du Trésor publie six ressources pour renforcer la sécurité de l'IA et la gestion des risques dans l'ensemble du secteur financier grâce au partenariat AIEOG.
Microsoft confirme qu'un bug critique a permis à Copilot AI de résumer des e-mails confidentiels depuis janvier, contournant les politiques de prévention des pertes de données dans Microsoft 365.
Gartner avertit que 57 % des employés utilisent un GenAI personnel pour le travail, alors que les agents d'IA autonomes et les menaces liées à la cryptographie post-quantique redessinent le paysage de la cybersécurité.
Le groupe de hackers chinois soutenu par l'État, APT31, a exploité l'IA Gemini de Google pour automatiser l'analyse des vulnérabilités et planifier des cyberattaques contre des cibles américaines, marquant une escalade significative dans la cyberguerre alimentée par l'IA.
Des chercheurs de l'Université de Regina ont renforcé l'outil de détection de la désinformation CIPHER avec des capacités d'IA afin de lutter contre les récits mensongers visant les Canadiens. Le système analyse les campagnes de propagande russes et s'étend pour décoder la désinformation en langue chinoise.
Google rapporte que des acteurs à motivation commerciale ont mené des attaques de distillation contre Gemini avec plus de 100 000 requêtes afin d'extraire les capacités du modèle d'IA et la propriété intellectuelle.
Des groupes APT de Chine, de Corée du Nord et d'Iran utilisent Google Gemini pour la reconnaissance, le codage de malwares et des campagnes de phishing, révèle Google GTIG.
Une recherche révolutionnaire révèle la prolifération à l'échelle industrielle des fraudes par deepfake, mettant en lumière les menaces urgentes pour la cybersécurité posées par les médias synthétiques générés par l'IA.
Un backend Firebase mal configuré expose 300 millions de messages de chat IA provenant de 25 millions d'utilisateurs, y compris l'historique complet des conversations et les configurations.
Des chercheurs de Microsoft dévoilent une méthode de détection pour les modèles d'IA empoisonnés, atteignant 88 % de précision sans aucun faux positif sur 47 modèles d'agents dormants.
Des chercheurs en cybersécurité avertissent que les agents d'IA étendent rapidement la surface d'attaque, 95 % des déploiements du Model Context Protocol (MCP) fonctionnant sur des postes d'employés sans visibilité par les équipes de sécurité. GreyNoise a enregistré plus de 91 000 sessions d'attaque sur l'infrastructure LLM en trois mois, tandis que des États-nations comme l'Iran et la Chine exploitent l'IA pour des capacités de cyberguerre.
Les agences fédérales adoptent des navigateurs GenAI et le purple teaming autonome pour faire face aux menaces émergentes de sécurité liées à l'IA et à l'évolution des réglementations.
