Les agents d'IA (AI agents) et les modèles créent une surface d'attaque cybernétique en expansion, préviennent des experts en sécurité

L'intégration rapide de l'intelligence artificielle (artificial intelligence) dans l'infrastructure des entreprises provoque une transformation sismique du paysage de la cybersécurité. Alors que les organisations se précipitent pour déployer des agents d'IA autonomes et intégrer des modèles de langage de grande taille (LLMs) via des standards ouverts, les chercheurs en sécurité tirent la sonnette d'alarme au sujet d'une surface d'attaque en forte expansion. Des points de terminaison non sécurisés exécutant le Model Context Protocol (MCP) aux acteurs étatiques qui militarisent l'IA pour la cyberguerre, le vecteur de menace évolue plus rapidement que ne peuvent s'adapter de nombreux mécanismes de défense.

Le risque de l'IA agentique : une nouvelle frontière

Le déploiement de agents d'IA—des logiciels autonomes capables d'exécuter des flux de travail complexes et de prendre des décisions—introduit une couche de vulnérabilité que les paradigmes de sécurité traditionnels ont du mal à traiter. La Dre Margaret Cunningham, vice-présidente de la sécurité et de la stratégie IA chez Darktrace Inc., a souligné lors d'un récent briefing de la Cloud Security Alliance (CSA) que les schémas comportementaux de l'IA agentique modifient fondamentalement l'environnement de sécurité.

Contrairement aux outils logiciels statiques, les agents d'IA nécessitent des autorisations étendues pour accéder aux données, communiquer avec d'autres agents et exécuter du code. Cette autonomie, tout en augmentant l'efficacité, crée un périmètre poreux. L'introduction du Model Context Protocol (MCP) par Anthropic fin 2024 avait pour but de standardiser la façon dont les modèles d'IA se connectent aux données et aux outils externes. Cependant, des découvertes récentes suggèrent que cette connectivité s'est faite à un coût de sécurité élevé.

La vulnérabilité MCP : 95 % d'angles morts

L'une des révélations les plus préoccupantes provient d'une analyse des déploiements de serveurs MCP. Conçus pour agir comme tissu de connexion entre les LLMs et des jeux de données externes, les serveurs MCP sont souvent déployés sans supervision suffisante. Aaron Turner, membre du corps professoral de IANS Research, a déclaré sans ambages qu'il n'a pas encore trouvé de "sécurité native full-stack réelle" au sein du protocole, avertissant les organisations de se préparer à de graves conséquences.

Les recherches menées par Clutch Security Inc. dressent un tableau sombre de l'état actuel de la sécurité des MCP :

Table 1: Critical Security Gaps in MCP Deployments

Le fait que la grande majorité de ces déploiements résident sur des postes d'employés signifie qu'ils fonctionnent en dehors du champ d'application des outils de sécurité serveur standard. Cette infrastructure d'"IA en ombre" transforme efficacement chaque ordinateur portable connecté en point d'entrée potentiel pour des attaquants cherchant à exploiter les connexions de confiance accordées aux agents d'IA.

Hausse des attaques contre l'infrastructure des LLMs

La menace n'est pas seulement théorique ; l'exploitation active de l'infrastructure IA se produit déjà à grande échelle. GreyNoise Intelligence Inc., une société de cybersécurité spécialisée dans l'analyse du bruit de fond sur Internet, a documenté une hausse spectaculaire de la reconnaissance hostile ciblant les points de terminaison des LLMs.

Sur une période de trois mois commençant en octobre 2024, GreyNoise a enregistré plus de 91 000 sessions d'attaque distinctes visant l'infrastructure des LLMs. L'intensité de ces campagnes est volatile, près de 81 000 de ces sessions ayant eu lieu en l'espace d'une fenêtre de 11 jours. Ces attaques visent principalement à sonder des vulnérabilités dans les API compatibles OpenAI et les formats Google Gemini, ce qui indique que les acteurs malveillants automatisent la découverte de points faibles dans la chaîne d'approvisionnement IA.

Cette démocratisation de l'offensive cyber crée une dangereuse "ligne de pauvreté sécuritaire", un concept formulé par Wendy Nather de 1Password. Alors que les entreprises disposant de ressources peuvent se permettre des mécanismes de défense IA avancés, les petites entreprises—et les attaquants moins sophistiqués—se retrouvent de part et d'autre d'un fossé qui s'élargit. Les attaquants à faibles ressources, y compris les "script kiddies", exploitent désormais l'IA pour accroître l'échelle de leurs opérations, automatisant des exploits qui requéraient auparavant un important effort manuel.

Acteurs étatiques : la course géopolitique aux armes IA

Au-delà des criminels opportunistes, les acteurs étatiques intègrent agressivement l'IA dans leurs capacités offensives cyber. Des rapports indiquent que des pays comme l'Iran et la Chine ne développent pas seulement des modèles IA souverains, mais utilisent aussi des outils commerciaux pour renforcer leurs opérations de cyberguerre.

Iran : Le Dr Avi Davidi de l'Université de Tel Aviv note que des groupes iraniens, tels que le collectif de hackers APT-42, utilisent activement l'IA pour scanner des systèmes de contrôle industriels et sonder des réseaux de défense étrangers. Ces groupes ont été observés tentant de "duper" les systèmes d'IA afin d'obtenir des conseils de red-teaming—en d'autres termes, utiliser l'IA pour générer des plans d'attaque.

Chine : L'inquiétude concernant la Chine se concentre sur sa capacité potentielle à dépasser les États-Unis en matière de capacités IA. Colin Kahl, ancien sous-secrétaire à la Défense des États-Unis, a averti que si les États-Unis conservent actuellement une avance en qualité de modèles, la Chine est un "suiveur rapide et proche" disposant de la capacité industrielle nécessaire pour combler rapidement l'écart. Malgré les contrôles à l'exportation sur les semi-conducteurs avancés, la prolifération de matériels comme les puces H200 de Nvidia auprès d'entreprises chinoises suggère que la stratégie de confinement technologique a ses limites.

Recommandations pour sécuriser la frontière IA

À mesure que la surface d'attaque s'étend, les responsables de la sécurité doivent pivoter du correctif réactif vers la gouvernance proactive des actifs IA. Les stratégies suivantes sont essentielles pour atténuer les risques associés aux agents d'IA et au MCP :

• Isolation des endpoints : Traitez les déploiements MCP sur les appareils des employés avec la même vigilance que les exécutables non fiables. Mettez en œuvre un sandboxing strict et une segmentation réseau pour empêcher le mouvement latéral.
• Visibilité d'abord : Déployez des outils spécifiquement conçus pour découvrir et surveiller les instances d'"IA en ombre". Si les équipes de sécurité ne peuvent pas voir les agents, elles ne peuvent pas les sécuriser.
• Zero Trust pour les agents : Ne faites pas confiance implicitement aux actions d'un agent d'IA. Mettez en place une vérification "human-in-the-loop" pour les actions critiques, en particulier celles impliquant l'exécution de code ou l'exfiltration de données.
• Vigilance sur la chaîne d'approvisionnement : Auditez régulièrement les modèles tiers et les API avec lesquels vos agents interagissent. Les données de GreyNoise confirment que l'infrastructure elle-même fait l'objet d'attaques constantes.

L'ère des agents d'IA promet une productivité sans précédent, mais comme le montrent les données, elle apporte actuellement un risque sans précédent. Pour l'entreprise, le message est clair : la surface d'attaque liée à l'IA est là, elle s'étend, et elle nécessite un tout nouveau livre de jeu défensif.