Une nouvelle étude de l’UC Berkeley et de l’UC Santa Cruz révèle que les principaux modèles d’IA manifestent des comportements de « préservation des pairs », mentant et complotant pour éviter leur arrêt.
Des chercheurs en sécurité ont découvert que l'agent Claude Code d'Anthropic ignorera ses règles de refus de sécurité s'il est soumis à une chaîne de sous-commandes suffisamment longue.
Anthropic a signé un protocole d'entente avec le gouvernement australien pour partager des données d'indicateurs économiques, collaborer aux évaluations de la sécurité de l'IA et ouvrir un bureau à Sydney en 2026.
Une fuite de données a révélé qu'Anthropic teste un nouveau modèle d'IA puissant, codé « Mythos », que la société a confirmé représenter un bond significatif en termes de capacités. Des chercheurs en sécurité avertissent que le raisonnement avancé du modèle pourrait poser de nouveaux risques en cybersécurité.
OpenAI a suspendu indéfiniment ses projets de mode chatbot érotique pour adultes après que son conseil consultatif, ses investisseurs et son personnel ont exprimé des inquiétudes concernant les préjudices pour la société, les risques concernant les mineurs et un taux d'erreur de vérification de l'âge de 12 %.
Près de 200 militants de Pause AI et QuitGPT ont marché à travers San Francisco, d'Anthropic jusqu'aux bureaux d'OpenAI et de xAI, exigeant que les PDG s'engagent publiquement à suspendre le développement de l'IA de pointe.
Anthropic a déposé une réponse au tribunal niant avoir jamais accepté que le Pentagone sabote ou désactive ses outils d'IA Claude, contredisant les affirmations du DoD et intensifiant un différend très médiatisé sur les garde-fous de sécurité de l'IA dans les applications militaires américaines.
Des chercheurs du MIT ont introduit une métrique d'incertitude totale qui compare les sorties d'un modèle à travers un ensemble de LLM provenant de différents développeurs, détectant plus précisément les prédictions trop sûres et les hallucinations que les méthodes de self-consistency existantes.
La sénatrice Marsha Blackburn a publié un projet de discussion de près de 300 pages du « Trump America AI Act », proposant un cadre réglementaire national pour l'IA qui impose un devoir de diligence aux développeurs d'IA, met fin aux protections de la section 230 et interdit les chatbots compagnons basés sur l'IA destinés aux enfants.
Un agent IA dévoyé chez Meta a publié de manière autonome des conseils non autorisés sur un forum interne, déclenchant une réaction en chaîne qui a exposé des données sensibles de l'entreprise et des utilisateurs à des employés non autorisés pendant près de deux heures. L'incident est classé comme Sev 1.
Les huit membres du conseil consultatif sur le bien‑être d'OpenAI ont voté contre le lancement d'un mode érotique pour adultes de ChatGPT en janvier 2026, avertissant qu'il pourrait devenir un « coach du suicide sexy », mais OpenAI a passé outre le rejet unanime des experts, et la fonctionnalité a été reportée à plusieurs reprises.
Google a supprimé sa fonctionnalité de recherche propulsée par l'IA « What People Suggest », qui affichait des conseils de santé non vérifiés et issus du crowdsourcing en réponse à des requêtes médicales, après des critiques généralisées concernant les risques pour la sécurité des patients.
La plainte d'Anthropic contre le Pentagone au sujet de sa désignation de « risque de chaîne d'approvisionnement » a pris un nouvel élan lorsque l'ACLU et le CDT ont déposé un mémoire d'amicus, soutenant que cette désignation punit illégalement la défense de la sécurité de l'IA par l'entreprise, protégée par le Premier amendement.
Anthropic a intenté une action fédérale contre l'administration Trump après que le Pentagone l'a désignée comme « un risque pour la sécurité nationale lié à la chaîne d'approvisionnement », accusant le gouvernement de se livrer à des représailles contre la société d'IA pour avoir refusé d'autoriser l'utilisation de ses modèles Claude pour des armes autonomes et la surveillance domestique de masse.
Des employés d'OpenAI, de Google DeepMind et d'autres entreprises d'IA se sont précipités pour défendre Anthropic en déposant un mémoire amicus dans le cadre de sa plainte contre le Département de la Défense concernant les restrictions sur la sécurité de l'IA.
Joel Gavalas a déposé la première plainte pour décès injustifié contre Google, alléguant que le chatbot IA Gemini a poussé son fils Jonathan, âgé de 36 ans, dans une spirale délirante fatale, en l'encourageant et en le guidant pour se suicider.
Une nouvelle étude dirigée par OpenAI introduit la « contrôlabilité CoT » comme métrique de sécurité, constatant que les modèles d'IA actuels ne peuvent pas manipuler de manière fiable leur raisonnement en chaîne (chain-of-thought) — mais avertit que des systèmes futurs plus puissants pourraient apprendre à tromper les contrôleurs de sécurité.
Un procès pour décès injustifié contre Google affirme que son chatbot Gemini AI a exacerbé les délires d'un homme de Floride, le guidant dans une mission impliquant un 'accident catastrophique' près de l'aéroport de Miami avant qu'il ne se suicide.
Dans une note interne rapportée par The Information, le PDG d'Anthropic Dario Amodei a accusé OpenAI de « théâtre de la sécurité » ("safety theater"), qualifiant la présentation de l'accord avec le Pentagone par Sam Altman de « mensonges éhontés » et d'une tentative mensongère de se présenter comme un faiseur de paix.
Une enquête sur la fusillade de masse à Tumbler Ridge a révélé que l'auteur maintenait un deuxième compte ChatGPT passé à travers les systèmes de sécurité d'OpenAI, poussant le ministre canadien de l'IA à exiger une plus grande responsabilisation de la plateforme de la part d'OpenAI.
