Comment l'IA générative amplifie le risque de rançongiciel et comment le maîtriser

L’IA d’entreprise, un accélérateur de cyberattaques insoupçonné

Selon une analyse récente, Microsoft traite environ 38 millions de détections de risques liés aux identités chaque jour. Ce chiffre illustre l’ampleur des menaces actuelles, où le compromis d’identité est devenu le vecteur d’attaque privilégié. L’intégration massive de l’intelligence artificielle générative dans les processus métiers ne fait qu’accentuer ce phénomène. En effet, l’IA générative ne crée pas une menace radicalement nouvelle, mais elle amplifie considérablement les techniques existantes, en particulier lors des phases de reconnaissance, d’abus d’identifiants et de vol de données. Comprendre comment l’IA modifie la surface d’attaque est désormais un impératif pour toute stratégie de cyber-résilience.

Deux modèles de menace liés à l’IA à ne pas confondre

Les attaquants utilisent l’IA pour optimiser leurs opérations

Les groupes criminels exploitent de plus en plus l’IA pour générer des e-mails de phishing crédibles, rédiger du code malveillant, automatiser la reconnaissance, analyser les informations volées et rationaliser l’extorsion. L’IA leur permet d’opérer plus rapidement et à plus grande échelle, sans pour autant modifier fondamentalement le déroulement des campagnes de rançongiciel. Le rapport Acronis Cyberthreats H2 2025 documente plusieurs cas concrets : le groupe GTG-2002 a utilisé l’IA pour générer et déboguer des scripts, faciliter la récolte d’identifiants et personnaliser les communications d’extorsion, permettant à de petites équipes de scaler leurs opérations. Le ransomware GLOBAL GROUP a même introduit un chatbot IA pour automatiser les négociations de rançon après le compromis. Bien que ce chatbot n’ait pas modifié la chaîne d’infection, il a permis aux opérateurs de gérer davantage de victimes simultanément.

Les organisations déploient l’IA en interne, élargissant la surface d’attaque

Parallèlement, les assistants et agents IA sont de plus en plus connectés aux référentiels de documents, plateformes collaboratives, applications SaaS et bases de connaissances internes. Si les attaquants compromettent les identités ou les permissions associées à ces systèmes, l’IA peut accélérer leur capacité à localiser des informations sensibles, naviguer dans les systèmes connectés et abuser des accès légitimes. Ces deux tendances se produisent simultanément. Alors que les attaquants deviennent plus efficaces grâce à l’IA, les organisations doivent s’assurer que leurs propres déploiements d’IA n’élargissent pas involontairement la surface d’attaque.

Là où l’IA d’entreprise crée de nouvelles expositions

Assistants IA vs agents IA : des niveaux de risque différents

Toutes les applications d’IA ne présentent pas le même niveau de risque. Les assistants IA se contentent principalement de récupérer des informations ou de générer du contenu en réponse à des requêtes. En revanche, les agents IA vont plus loin : ils interagissent avec les applications métiers, invoquent des API et exécutent des actions pour le compte d’un utilisateur. Plus une application a d’autonomie et de permissions, plus l’impact potentiel est grand si son identité associée est compromise.

“Le véritable problème est la délégation d’autorité. Les campagnes de rançongiciel modernes commencent généralement par l’exploitation de vulnérabilités, le compromis d’identifiants ou l’abus d’accès tiers de confiance.” - Santiago Pontiroli, Acronis Threat Research Unit

L’identité compromise transforme l’IA en accélérateur d’attaque

Les assistants et agents IA héritent des identités et des permissions déléguées sous lesquelles ils opèrent. Lorsque les attaquants compromettent ces identités, ils peuvent également accéder aux services IA, aux données d’entreprise et aux applications connectées disponibles via les mêmes permissions. Un assistant IA connecté à la connaissance d’entreprise peut réduire considérablement l’effort nécessaire pour localiser des informations sensibles. Plutôt que de rechercher manuellement dans des centaines de dossiers, un attaquant disposant d’identifiants légitimes pourrait demander à un assistant IA d’identifier la documentation de sauvegarde, les procédures administratives, les informations clients ou les dossiers financiers.

De même, si un agent IA a l’autorisation d’envoyer des e-mails, d’exporter des fichiers ou d’invoquer des outils métiers connectés, les attaquants qui compromettent son identité pourraient potentiellement abuser de ces capacités pour accélérer le vol de données ou des actions non autorisées. Le risque sous-jacent est l’accès excessif, et non l’IA elle-même.

L’injection de prompt : une vulnérabilité spécifique mais non isolée

L’injection de prompt est une vulnérabilité spécifique à la couche applicative de l’IA. Des instructions malveillantes intégrées dans des documents, e-mails ou contenus web peuvent influencer le comportement de l’IA lorsqu’elles sont récupérées par des applications d’entreprise. Cependant, l’impact dépend largement des permissions accordées au système d’IA. C’est pourquoi les recommandations de sécurité d’organisations comme l’OWASP mettent l’accent sur des contrôles en couches, le moindre privilège et l’approbation humaine pour les actions à haut risque, plutôt que de se fier uniquement au filtrage des prompts.

L’IA rend déjà la cybercriminalité plus efficace

Les preuves montrent que l’IA rend la cybercriminalité existante plus rapide plutôt que de changer fondamentalement le fonctionnement des attaques. Outre les exemples déjà cités, des chercheurs d’Anthropic ont documenté l’utilisation d’IA agentique par un groupe parrainé par l’État chinois pour exécuter une grande partie d’une campagne de cyberespionnage, y compris la reconnaissance, la recherche de vulnérabilités, la récolte d’identifiants et la collecte de données. Parallèlement, les opérateurs de ransomware-as-a-service font de plus en plus la publicité de l’automatisation assistée par l’IA pour le contournement de la défense et l’efficacité opérationnelle. Ces publicités signalent comment les opérateurs de rançongiciel positionnent l’IA et où ils attendent des gains d’efficacité, bien que les affirmations individuelles de capacités puissent ne pas être vérifiées de manière indépendante.

Six contrôles pour réduire l’exposition aux rançongiciels amplifiés par l’IA

Les organisations n’ont pas besoin de remplacer leur stratégie de sécurité existante pour l’IA d’entreprise. Cependant, elles doivent l’étendre avec une gouvernance, des contrôles d’accès et une surveillance spécifiques à l’IA. Voici six mesures concrètes à mettre en œuvre :

1. Maintenir un inventaire des applications IA : dressez la liste des applications, modèles et intégrations IA approuvés et non autorisés. Chaque flux de travail IA doit avoir un propriétaire défini, un objectif métier et une classification de risque appropriée.
2. Accorder un accès au moindre privilège : attribuez aux utilisateurs, applications IA, comptes de service et API uniquement les permissions strictement nécessaires. Révisez régulièrement les permissions déléguées, révoquez les identifiants inutilisés et limitez l’accès de l’IA aux seuls systèmes et informations requis pour chaque tâche.
3. Appliquer des contrôles sur le trafic et les mouvements de données liés à l’IA : utilisez des capacités de passerelle web sécurisée, CASB et DLP pour découvrir les services IA, restreindre l’accès aux outils non autorisés et empêcher le téléchargement ou le transfert d’informations sensibles.
4. Surveiller et auditer l’activité IA : corrélez l’utilisation des applications IA, les événements d’identité, l’accès aux données, les exportations et les actions des agents avec la télémétrie des endpoints, SaaS et cloud dans les systèmes SIEM ou XDR. Maintenez des pistes d’audit montrant quel utilisateur ou compte de service a initié une action, quelles ressources ont été consultées et si une approbation était requise.
5. Se préparer au confinement et à la récupération : les équipes de sécurité doivent pouvoir révoquer les jetons compromis, désactiver les intégrations affectées et suspendre les flux de travail IA en cas de détection d’activité malveillante. Les sauvegardes immuables et les procédures de récupération testées restent essentielles pour restaurer les opérations après des attaques destructrices, bien qu’elles ne puissent pas inverser le vol de données ou éliminer le risque d’extorsion.
6. Mettre en œuvre une autorisation humaine ou basée sur des politiques pour les actions à haut risque : cela inclut les exportations en masse, les modifications administratives, les communications externes et l’exécution de code. L’OWASP recommande explicitement le moindre privilège et l’approbation humaine pour les opérations privilégiées.

Mise en œuvre : étapes actionnables pour renforcer la cyber-résilience

Étape 1 : Évaluer l’empreinte IA actuelle

Commencez par identifier tous les outils et services IA utilisés dans votre organisation, qu’ils soient officiels ou non (shadow AI). Un inventaire précis est la base de toute gouvernance efficace.

Étape 2 : Cartographier les permissions et les identités

Pour chaque assistant ou agent IA, documentez les identités sous lesquelles il opère et les permissions qui lui sont accordées. Identifiez les écarts par rapport au principe du moindre privilège.

Étape 3 : Définir des politiques de gouvernance

Établissez des règles claires concernant l’utilisation de l’IA, les types de données qui peuvent lui être confiées, et les actions qui nécessitent une approbation humaine. Intégrez ces politiques dans votre cadre de gouvernance existant.

Étape 4 : Déployer des outils de surveillance et de contrôle

Mettez en place des solutions capables de détecter les usages non autorisés de l’IA, d’inspecter les prompts pour détecter les données sensibles, et de bloquer les actions à risque. Assurez-vous que ces outils s’intègrent avec votre SIEM ou XDR.

Étape 5 : Tester et itérer

Simulez des scénarios d’attaque pour valider l’efficacité de vos contrôles. Ajustez vos politiques et configurations en fonction des résultats. La sécurité est un processus continu.

Tableau comparatif : Risques et contrôles pour l’IA générative

Exemple de politique de moindre privilège pour un agent IA :
- Accès en lecture seule à la base de connaissances
- Pas d'accès aux fichiers de sauvegarde
- Pas d'autorisation d'envoi d'e-mails
- Approbation humaine requise pour toute exportation de données

“L’approche la plus efficace consiste à intégrer l’IA dans les stratégies existantes de gestion des identités, de protection des données et de réponse aux incidents, plutôt que de la traiter comme un domaine de sécurité distinct.” - Santiago Pontiroli, Acronis Threat Research Unit

Conclusion : intégrer l’IA dans votre stratégie de cyber-résilience

L’IA générative d’entreprise continuera de se développer car les avantages métier sont évidents. Le défi est de s’assurer que les gains de productivité ne se font pas au détriment de la sécurité. L’approche la plus efficace est d’intégrer l’IA dans les stratégies existantes de gestion des identités, de protection des données et de réponse aux incidents, plutôt que de la traiter comme un domaine de sécurité distinct. Les organisations qui combinent une gouvernance solide avec des pratiques de cybersécurité établies seront les mieux positionnées pour réduire le risque de rançongiciel tout en réalisant les bénéfices de productivité de l’IA. En pratique, cela signifie évaluer les contrôles de sécurité de l’IA en fonction de leur capacité à s’intégrer à la gouvernance et aux opérations de sécurité existantes, tout en offrant une visibilité sur l’utilisation de l’IA, les permissions et les violations de politiques. Pour les fournisseurs de services gérés (MSP) et les équipes de sécurité d’entreprise, c’est une opportunité d’étendre les stratégies de cyber-résilience pour inclure la gouvernance de l’IA, une démarche qui s’avérera cruciale face à l’évolution rapide des menaces.