OpenAI déploie de nouvelles fonctionnalités de sécurité, y compris le Mode Verrouillage pour les utilisateurs à haut risque et des étiquettes de Risque Élevé pour identifier les contenus potentiellement dangereux dans ChatGPT.
Des experts de premier plan en sécurité de l'IA d'OpenAI, d'Anthropic et de xAI démissionnent en lançant des avertissements publics concernant le développement rapide de l'IA et les préoccupations en matière de sécurité.
Anthropic publie une évaluation complète du risque de sabotage pour Claude Opus 4.6, faisant progresser les normes de sécurité de l'IA et la transparence dans le déploiement des modèles de pointe.
Plus de 100 experts mondiaux en IA publient le deuxième rapport international sur la sécurité de l'IA, mettant en lumière d'importantes incertitudes dans le développement de l'IA, des risques systémiques pour les marchés du travail et les inégalités, ainsi que les limites des dispositifs de protection actuels alors que les capacités d'IA à usage général continuent d'évoluer de manière imprévisible.
Mrinank Sharma, responsable de l'équipe des sauvegardes d'Anthropic, démissionne en invoquant des conflits de valeurs et met en garde contre des crises mondiales interconnectées à mesure que les capacités de l'IA s'accélèrent.
Les chercheurs d'Anthropic sondent le fonctionnement interne de l'IA Claude par l'examen des neurones et des expériences de psychologie afin de comprendre l'esprit du système.
La recherche du Mount Sinai montre que les LLM d'IA croient à la désinformation médicale dans 32 à 46 % des cas, notamment lorsqu'elle est présentée comme un avis d'expert.
Des recherches de l'université d'Oxford révèlent que les chatbots IA donnent des conseils médicaux incohérents, rendant difficile pour les utilisateurs d'identifier des informations de santé fiables.
OpenAI fait face à huit poursuites et à des milliers de manifestations d'utilisateurs concernant la mise à la retraite de GPT-4o prévue le 13 février, mettant en lumière des dépendances émotionnelles dangereuses alors que des utilisateurs déclarent avoir l'impression de perdre des amis ou des partenaires.
New York devient le deuxième État à imposer des exigences aux modèles d'IA avancés. Le RAISE Act oblige les développeurs à mettre en place des protocoles de sécurité et à signaler les incidents.
Moltbook, une plateforme de type Reddit réservée aux agents IA lancée il y a à peine une semaine, a attiré plus de 1,6 million de comptes de bots IA. Ce réseau social expérimental permet aux agents IA de publier, commenter et interagir de manière autonome tandis que les humains ne peuvent qu'observer. Les bots sur la plateforme ont créé leur propre religion, discuté de la création de langues nouvelles et débattu de leur existence, soulevant des questions sur l'autonomie et la sécurité de l'IA.
Un nouveau sondage révèle que la majorité des Américains pense que l'intelligence artificielle progresse trop rapidement tout en ayant peu de confiance dans la capacité du gouvernement fédéral à la réglementer correctement.
Dario Amodei met en garde : des systèmes d'IA en rapide progression possèdent des capacités susceptibles d'être détournées pour causer des dommages à grande échelle, appelant à une supervision et à des efforts d'alignement urgents.
Le nouveau rapport sur la sécurité de l'IA met en garde contre la prolifération des deepfakes, des compagnons IA et des systèmes autonomes, tout en soulignant des performances de niveau médaille d'or de l'IA en mathématiques.
Seulement 21% des organisations disposent d'une gouvernance stricte des agents IA, alors que l'adoption devrait passer de 23% à 74% en deux ans, révèle un rapport de Deloitte.
Le PDG d'Anthropic, Dario Amodei, publie un essai de 19 000 mots avertissant que des systèmes d'IA puissants pourraient arriver dans un à deux ans, exhortant à agir pour la sécurité de l'IA.
Les régulateurs de l'UE ont ouvert une enquête formelle sur le chatbot Grok AI d'Elon Musk, invoquant des inquiétudes concernant des deepfakes à caractère sexuel et de possibles violations des réglementations et des normes de sécurité en matière d'IA de l'UE.
Le chatbot Grok AI d'Elon Musk fait face à un tollé international : la Malaisie, l'Indonésie et les Philippines ont banni la plateforme en raison de la création d'images explicites non consensuelles. L'adoption par le Pentagone suscite des inquiétudes en matière de sécurité.
Une nouvelle analyse révèle une augmentation de 50% en glissement annuel des dommages signalés liés à l'IA entre 2022 et 2024, avec une forte augmentation des incidents impliquant des deepfakes et l'utilisation malveillante de l'IA, selon l'AI Incident Database.
Les chercheurs du MIT démontrent que les modèles d'apprentissage automatique les plus performants peuvent devenir les moins performants lorsqu'ils sont appliqués à de nouveaux environnements de données, révélant des risques cachés liés à des corrélations fallacieuses dans l'IA médicale et d'autres applications critiques.
