L’intelligence artificielle évolue plus rapidement que de nombreux modèles de gouvernance en matière de cybersécurité n’ont été conçus pour gérer. La question la plus importante n’est plus de savoir si l’IA peut accélérer la détection des vulnérabilités, automatiser les workflows ou soutenir les opérations de sécurité. La question est plutôt de savoir si les organisations peuvent définir les personnes responsables lorsque les systèmes d’IA agissent, échouent, dépassent leurs limites ou sont utilisés à mauvais escient.
Pour les CISOs, les CIO, les responsables de la sécurité et les architectes de sécurité, le défi de la sécurité de l’IA est désormais une question de gouvernance et de résilience opérationnelle. Les agents d’IA peuvent authentifier, appeler des outils, accéder aux données et exécuter des tâches de manière toujours plus proche de celle des utilisateurs humains. Pourtant, de nombreuses organisations n’appliquent pas le même niveau de contrôle d’identité, d’application des politiques, de surveillance et de responsabilisation aux systèmes d’IA que celles qu’elles appliquent aux employés, aux administrateurs, aux sous-traitants ou aux comptes de services.
Résumé pour la direction : L’IA ne doit pas être considérée comme une exception à la gouvernance en matière de cybersécurité ; elle doit être considérée comme une nouvelle catégorie d’acteurs au sein de l’entreprise.
L’IA accélère à la fois la sécurité et le risque
L’IA devient un élément central des discussions sur la cybersécurité car elle change la vitesse et l’ampleur de la défense et des attaques. Les systèmes alimentés par l’IA peuvent détecter les vulnérabilités dans les logiciels actuels et obsolètes à un rythme que les processus traditionnels ont du mal à égaler. Cela présente un intérêt défensif évident, mais cela augmente également la pression sur les équipes de sécurité déjà très sollicitées.
Le résultat pratique est un déséquilibre croissant :
-
De nouvelles vulnérabilités sont découvertes.
-
Les voies d’exploitation peuvent être analysées plus rapidement.
-
Les équipes de sécurité sont confrontées à des retards de mise en œuvre plus importants.
-
Les systèmes hérités et les dépendances envers des tiers deviennent plus difficiles à prioriser.
-
Les attaquants peuvent utiliser des capacités similaires pour identifier les systèmes exposés, les configurations vulnérables et le code exploitable.
Cela est important dans tous les secteurs. Les institutions financières doivent gérer les fraudes, les compromissions d’identité et la résilience opérationnelle. Les organisations de santé doivent protéger les services aux patients et les données médicales. Les fabricants et les entreprises de services publics doivent préserver la continuité opérationnelle et la sécurité. Les fournisseurs de technologie et de SaaS doivent protéger l’intégrité des plateformes et la confiance des clients. Les organismes publics doivent maintenir la disponibilité des services et leur traçabilité dans des contraintes strictes en matière de ressources et d’approvisionnement.
Dans tous ces environnements, l’IA ne supprime pas la nécessité de procéder à une priorisation. Elle rend cette dernière plus urgente.
« La » priorisation impitoyable » devient une discipline fondamentale de la sécurité
Alors que l’IA augmente la capacité de détection des vulnérabilités et la rapidité des menaces, les organisations ne peuvent pas considérer toutes les alertes comme ayant la même priorité. Les équipes de sécurité doivent adopter une approche disciplinée pour décider de ce qui doit être corrigé en priorité, de ce qui peut être atténué temporairement et de ce qui nécessite l’acceptation de risques par les dirigeants.
Une priorisation efficace devrait tenir compte des éléments suivants :
-
La vulnérabilité affecte-t-elle les systèmes connectés à Internet ?.
-
Que l’exploitation soit connue, active ou facilement automatisée.
-
Le fait que l’actif concerné soit compatible avec un processus métier essentiel.
-
Que ce soit des données sensibles, un accès privilégié ou des systèmes opérationnels.
-
Le fait de prévoir des contrôles de compensation réduit-il la réalité de l’exposition ?.
-
La question est de savoir si cette intervention pourrait perturber la production, la prestation des soins, le traitement des paiements, la logistique ou les services essentiels.
-
Que ce problème existe-t-il dans un environnement géré par le fournisseur, un environnement cloud, SaaS ou en sous-traitance.
Point clé : La découverte automatisée génère davantage de résultats, mais pas davantage de capacités. Sans triage basé sur les risques, les organisations peuvent dépenser des ressources limitées pour résoudre des problèmes de moindre impact, tandis que les risques plus graves restent exposés.
Pour les responsables de la cybersécurité, la priorité consiste à relier la gestion des vulnérabilités techniques au contexte commercial. La criticités des actifs, l’exposition des identités, la sensibilité des données, la facilité d’exploitation et la dépendance opérationnelle doivent orienter la séquence des mesures de correction.
Les agents d’IA doivent être régis comme les identités d’entreprise
L’une des implications de sécurité les plus importantes de l’IA est que les agents IA se comportent de plus en plus comme des utilisateurs ou des comptes de service. Ils peuvent s’authentifier auprès des systèmes, utiliser des outils, récupérer des informations, générer des résultats, déclencher des workflows et fonctionner dans le cadre des autorisations assignées par les humains.
Le risque est que de nombreuses applications d’IA héritent d’un accès sans une responsabilité équivalente.
Un employé humain fonctionne généralement dans un cadre de gouvernance de l’identité. Il dispose d’un rôle, d’un manager, d’un processus d’autorisation d’accès, d’un historique des audits, d’une politique d’utilisation acceptable et d’une responsabilisation disciplinaire. Les agents IA manquent souvent de contrôles comparables. Ils peuvent être déployés par les équipes commerciales, intégrés dans des outils de productivité, connectés à des API ou dotés de permissions étendues sans une propriété claire.
Les responsables de la sécurité devraient se demander :
-
Quels agents ou outils d’IA sont actifs dans l’environnement ?
-
Quelles identités, jetons, clés API ou comptes de service utilisent-ils ?
-
Quels systèmes, données et flux de travail peuvent-ils accéder ?
-
Qui a autorisé cet accès ?
-
Qui le révise périodiquement ?
-
Quels outils de logistique existent pour les actions menées par l’IA ?
-
L’organisation peut-elle suspendre, isoler ou désactiver rapidement un agent IA ?
-
Qui est responsable si le système d’IA prend une action dangereuse ou non autorisée ?
Implication de sécurité : Un agent d’IA doté de permissions excessives peut devenir un risque d’automatisation privilégié. Si compromis, mal configuré ou mal géré, il peut amplifier les erreurs ou les activités malveillantes à vitesse de machine.
La responsabilité ne peut pas être externalisée à la technologie
Une faiblesse récurrente dans les discussions sur les risques liés à l’IA est la tendance à décrire l’IA comme si elle agissait indépendamment de la responsabilité organisationnelle. En pratique, les systèmes d’IA sont conçus, configurés, commandés, intégrés, autorisés et surveillés par des humains. Ils fonctionnent dans le cadre de décisions commerciales, d’architectures techniques et de choix de gouvernance.
Cette distinction est importante pour la responsabilité des dirigeants. Si un système d’IA divulgue des données sensibles, déclenche une transaction non autorisée, formule une recommandation dangereuse ou exécute un workflow nuisible, la question qui se pose aux autorités de réglementation, aux clients, aux conseils d’administration et aux intervenants en cas d’incident ne sera pas simplement « Que a fait l’IA ? » Mais plutôt :
-
Qui a autorisé ce système ?
-
Quels contrôles étaient en place ?
-
Quels tests ont-ils été effectués ?
-
Quels données étaient accessibles ?
-
Quels droits ont été accordés ?
-
Quel contrôle existait-il ?
-
Quel plan de réponse était disponible ?
-
Pourquoi le système a-t-il été autorisé à continuer à fonctionner alors qu’il ne relevait pas du contrôle ?
Point de décision : Si un système d’IA ne peut pas être géré, surveillé, contraint ou expliqué à un niveau acceptable en termes d’impact sur ses activités, il ne devrait pas être utilisé dans ces conditions.
Dans les environnements à risque élevé tels que les services bancaires, les soins de santé, l’énergie, les transports, la défense et les infrastructures critiques, ce principe revêt une importance particulière. Les workflows automatisés par l’IA qui affectent les paiements, les processus cliniques, les systèmes de sécurité, les données clients ou la continuité des services nécessitent une surveillance plus rigoureuse que les cas d’utilisation expérimentaux internes en matière de productivité.
Réglementation, innovation et écart de contrôle
Le débat sur la réglementation de l’IA se focalise souvent sur la question de savoir si ces règles freineront l’innovation ou ne parviendront pas à suivre le rythme de la technologie. Pour les responsables de la cybersécurité, le problème le plus immédiat est l’écart de contrôle au sein des organisations.
Même lorsque la réglementation est imparfaite ou incohérente, les entreprises ont encore besoin de normes internes. Attendre une réglementation parfaite n’est pas une stratégie de risque viable. Les conseils d’administration, les autorités de réglementation, les assureurs, les clients et les partenaires commerciaux exigeront des preuves que les risques liés à l’IA sont gérés grâce à des contrôles raisonnables.
Les organisations devraient définir des exigences de sécurité internes en matière d’IA couvrant :
-
Cas d’utilisation de l’IA approuvés et interdits.
-
Règles de classification des données pour les entrées et les sorties de l’IA.
-
Gestion de l’identité et de l’accès pour les agents IA.
-
Loging, surveillance et traçabilité.
-
Exigences d’approbation humaine pour les actions à impact élevé.
-
Due diligence des fournisseurs de services d’IA tiers.
-
Intégration sécurisée avec les API, les plateformes SaaS et les systèmes internes.
-
Procédures de réponse aux incidents liés à des défaillances ou à une mauvaise utilisation de l’IA.
-
Revisions périodiques de l’accès et tests de contrôle.
Cela ne nécessite pas d’arrêter l’innovation ; il faut plutôt la rendre gérable.
Les équipes de cybersécurité ont besoin d’une spécialisation plus approfondie
L’IA soulève également un problème de ressources. Les équipes de cybersécurité sont souvent appelées à gérer la sécurité dans le cloud, l’identité, la gestion des vulnérabilités, la réponse aux incidents, la sécurité des applications, la protection des données, les risques liés aux systèmes tertiaires (OT) et désormais la gouvernance de l’IA, avec un effectif et un budget limités.
Une analogie utile est que les procédures médicales spécialisées nécessitent une expertise spécialisée. Le même principe s’applique à la cybersécurité. Les organisations ne devraient pas supposer que les connaissances générales en sécurité soient suffisantes face à tous les risques liés à l’IA.
Selon l’exposition de l’entreprise, les dirigeants peuvent avoir besoin de renforcer leurs capacités dans les domaines suivants :
-
Gouvernance de l’IA et gestion du risque des modèles.
-
Sécurité de l’identité pour les identités et les agents non humains.
-
Sécurité des API et de l’automatisation.
-
Validation de la conformité des services Cloud et SaaS.
-
Développement de logiciels sécurisé et analyse du code.
-
Prévention de la fuite de données et ingénierie de la confidentialité.
-
Ingénierie de détection pour les activités utilisant l’IA.
-
Sécurité des tiers et de la chaîne d’approvisionnement.
-
Réponse aux incidents liés à des événements automatisés ou assistés par l’IA.
Impact opérationnel : Le manque de compétences n’est pas seulement un problème de personnel. Il affecte les décisions en matière de recrutement, les examens de la passation des marchés, la conception des contrôles, la préparation en cas d’incident et la capacité de l’organisation à expliquer les risques liés à l’IA aux dirigeants et aux autorités de réglementation.
Priorités pratiques pour les responsables de la sécurité
Les organisations n’ont pas besoin de résoudre toutes les problématiques de sécurité liées à l’IA à la fois. Elles devraient commencer par les domaines où l’IA a accès à des données sensibles, à des systèmes privilégiés, à des flux de travail destinés aux clients ou à des processus opérationnellement critiques.
Les premiers pas recommandés comprennent :
- Utilisation de l’intelligence artificielle dans les inventaires dans l’entreprise
Identifiez les outils sanctionnés, l’utilisation d’IA en mode discret, les fonctionnalités d’IA intégrées dans les plateformes SaaS, les agents d’IA, les flux de travail automatisés et les services d’IA de tiers.
- Classer les systèmes d’IA selon leur impact sur les activités commerciales
Diviser l’utilisation de la productivité à faible risque en deux : celle qui peut affecter les données réglementées, les services essentiels, les transactions financières, les décisions des clients, la sécurité ou la continuité opérationnelle.
- Application de la gouvernance de l’identité aux agents IA
Exiger une propriété nommée, un accès limité aux privilèges, des vérifications d’accès, la gestion des identifiants et des procédures claires de désactivation.
- Définir les exigences d’encadrement humain
Les actions à impact élevé devraient nécessiter une approbation, un examen ou une escalade plutôt que d’être exécutées de manière totalement autonome.
- Améliorer la logistique et la vérifiabilité
Les équipes de sécurité doivent savoir ce que le système d’IA a accédé, ce qu’il a fait, quels outils il a utilisés et sous l’autorité de qui il fonctionnait.
- Intégrer l’IA dans les plans de réponse aux incidents
Préparez-vous aux scénarios impliquant une fuite de données, des actions non autorisées, des manipulations rapides, des intégrations compromises ou une automatisation incontrôlée.
- Prioriser les vulnérabilités en fonction du contexte commercial
Utilisez la découverte assistée par l’IA pour améliorer la visibilité, mais opérez selon une triade basée sur les risques afin de cibler les mesures correctives sur les problèmes les plus critiques.
Intégrer la sécurité de l’IA dans la stratégie de résilience
L’IA continuera à améliorer les opérations de sécurité, l’analyse des logiciels, l’automatisation et la productivité des entreprises. Elle augmentera également la rapidité, la complexité et les exigences en matière de responsabilisation des programmes de cybersécurité.
La condition essentielle pour les décideurs est le contrôle. Les systèmes d’IA doivent avoir des propriétaires, des limites, une surveillance et des conséquences. Ils doivent s’intégrer dans les mécanismes de gouvernance existants en matière d’identité, de protection des données, de risque lié à des tiers, de gestion des vulnérabilités, de réponse aux incidents et de continuité des activités.
Si une capacité d’IA ne peut pas être contrôlée, la solution la plus responsable consiste à ne pas la faire confiance aveuglément. Il faut plutôt la stopper, la restreindre, la réinventer ou la désactiver jusqu’à ce que les contrôles appropriés soient en place.
Point clé à retenir : L’IA peut modifier les outils de cybersécurité, mais elle ne change pas les principes fondamentaux de la gestion des risques. Les systèmes critiques nécessitent toujours une prise en charge claire, des privilèges minimaux, une surveillance, une hiérarchisation des priorités, une planification de la résilience et une responsabilité managériale.