Un technicien copie un ticket client dans ChatGPT pour le résumer. Un collaborateur utilise son compte personnel sur un outil d'IA générative pour analyser un document. Une équipe teste un nouveau service sans en informer le service informatique. Dans chaque cas, l'intelligence artificielle apporte un gain immédiat, mais son utilisation échappe aux règles définies par l'organisation.
C'est le problème du Shadow AI : des outils ou usages d'IA adoptés sans validation ou sans gouvernance suffisante. Pour un prestataire de services managés (MSP), l'enjeu ne consiste pas à interdire l'utilisation de l'IA chez les clients, mais à identifier quels outils sont utilisés, quelles données leur sont transmises et quels contrôles s'appliquent.
Pour proposer un cadre commun plutôt que laisser chaque équipe choisir ses propres outils, Goodweek centralise l'accès à plusieurs modèles d'IA dans un environnement gouverné, avec gestion des utilisateurs, permissions, isolation des données et journalisation des interactions.
À retenir
- Le Shadow AI désigne les usages d'intelligence artificielle qui échappent au cadre de gouvernance défini par l'organisation.
- Le niveau de risque dépend moins du nom de l'outil que des données traitées, du compte utilisé, du cas d'usage et des contrôles appliqués.
- Les principaux risques du Shadow AI concernent les données sensibles, la confidentialité, la traçabilité, la conformité et les décisions prises à partir de contenus générés.
- La détection ne repose pas sur un indicateur unique : elle combine inventaire, observation des usages, journaux disponibles, échanges avec les équipes et analyse des incidents.
- Une politique efficace distingue les usages autorisés, encadrés et interdits, puis fournit aux employés des solutions d'IA approuvées adaptées à leurs besoins.
Qu'est-ce que le Shadow AI ?
Le Shadow AI désigne l'utilisation de systèmes ou de fonctionnalités d'intelligence artificielle en dehors du cadre défini par l'organisation.
Il peut s'agir d'un outil entièrement non approuvé, mais aussi d'un usage non autorisé d'une solution connue. Un abonnement professionnel à une IA générative peut par exemple être validé pour reformuler des contenus publics, sans l'être pour analyser des données clients.
Le Shadow AI est donc proche du Shadow IT, qui désigne plus largement l'utilisation de logiciels, applications ou services non approuvés. La particularité de l'IA générative vient notamment de la nature des informations qu'un utilisateur peut lui transmettre et des contenus qu'elle produit en retour.
Pour approfondir les risques liés aux applications et services non maîtrisés, lisez notre article sur les attaques informatiques.
Shadow AI, usage approuvé ou usage encadré : comment les distinguer ?
Pour un prestataire de services managés, l'enjeu est d'identifier l'outil utilisé, le besoin couvert et la nature des données transmises.
Un même service peut présenter des risques très différents selon qu'il sert à reformuler un texte public ou à analyser un ticket contenant des informations sur un client.
Pourquoi les employés utilisent-ils des outils d'IA hors du cadre prévu ?
L'adoption de l’IA Generative est particulièrement simple : de nombreux services sont accessibles depuis un navigateur, parfois gratuitement, sans installation ni intervention du service informatique.
Cette facilité réduit fortement la barrière entre l'expérimentation personnelle et l'utilisation professionnelle.
Un bénéfice immédiatement visible
Dans un environnement MSP, les cas d'usage sont faciles à trouver :
- résumer un ticket ;
- reformuler une réponse destinée à un client ;
- expliquer une erreur technique ;
- produire une première version d'un script ;
- synthétiser une documentation ;
- structurer un compte rendu.
Le gain de temps est perceptible dès la première utilisation. Si aucun outil approuvé ne répond au même besoin, les employés peuvent se tourner vers des services externes disponibles immédiatement.
Un compte personnel suffit parfois
Certains Shadow AI tools sont des solutions Software as a Service (SaaS) accessibles directement depuis le Web.
L'utilisateur peut donc employer un compte personnel ou créer un compte sans passer par le processus d'approbation habituel. Le service peut alors se trouver en dehors des mécanismes de gestion des identités, de journalisation ou de contrôle définis par le client.
Une politique trop abstraite ne suffit pas
Une règle comme "n'utilisez pas de données confidentielles dans une IA" laisse plusieurs questions ouvertes.
Un ticket de support est-il confidentiel ? Un log contenant une adresse IP peut-il être envoyé ? Un extrait de code est-il autorisé ? Une documentation interne peut-elle servir de contexte ?
Une politique exploitable doit définir les catégories de données et les cas d'usage, pas seulement demander aux utilisateurs d'être prudents.
Sur ce point, la sensibilisation aux menaces de phishing des utilisateurs reste complémentaire aux contrôles techniques.
Quels sont les principaux risques du Shadow AI ?
Les risques du Shadow AI ne se limitent pas à une éventuelle fuite de données. Ils concernent également la confidentialité des données, la traçabilité des traitements, la fiabilité des sorties et la conformité réglementaire.
Exposition de données sensibles et de données clients
Le scénario le plus simple est aussi l'un des plus difficiles à éliminer : le copier-coller.
Un technicien peut transmettre à un service d'IA :
- le contenu d'un ticket ;
- des données personnelles ;
- des données clients ;
- un journal technique ;
- un extrait de configuration ;
- une procédure interne ;
- du code ;
- un identifiant ou un secret qui n'a pas été correctement supprimé.
La CNIL recommande d'adapter le choix du système et son mode de déploiement aux données utilisées. Elle indique notamment qu'en présence de données personnelles ou de documentation sensible ou stratégique, des garanties renforcées sont nécessaires.
Pour un MSP, la prévention d'une fuite de données commence donc avant le prompt : il faut déterminer quelles catégories d'informations peuvent être transmises à quelle solution.
La protection des données sensibles fait plus largement partie de la stratégie de cybersécurité proposée aux clients.
Perte de visibilité sur le traitement
Lorsqu'un utilisateur travaille avec un service non gouverné, le MSP peut ne pas disposer des éléments nécessaires pour répondre à des questions simples :
- quel compte a été utilisé ?
- quel modèle a traité l'information ?
- quelles données ont été envoyées ?
- quelles règles de conservation s'appliquent ?
- l'interaction est-elle journalisée ?
- l'organisation peut-elle retrouver cette interaction en cas d'incident ?
L'absence de réponse ne signifie pas automatiquement qu'une fuite d’informations a eu lieu. Elle signifie que le niveau de contrôle et de preuve disponible est insuffisant pour cet usage.
Réponses inexactes et mauvaises décisions
Une IA générative peut produire une réponse plausible mais incorrecte.
Dans un contexte MSP, le risque apparaît lorsqu'une sortie est directement utilisée pour modifier une configuration, produire un script, répondre à un client ou prendre une décision sans validation adaptée.
La CNIL recommande justement de tenir compte des limites des systèmes d'IA générative et d'encadrer les cas dans lesquels une prise de décision leur est confiée.
Le contrôle humain doit donc être proportionné aux conséquences possibles de l'action.
Conformité réglementaire
L'utilisation de l'IA ne crée pas un régime dans lequel les règles existantes cessent de s'appliquer.
Lorsque des données personnelles sont traitées, les obligations applicables en matière de protection des données doivent être examinées. Selon le cas d'usage, d'autres exigences contractuelles, sectorielles ou liées au règlement européen sur l'intelligence artificielle peuvent également entrer en jeu.
Pour les MSP qui développent une offre de conformité ou de vCISO, ce sujet s'inscrit dans une démarche plus large de gouvernance cyber.
Comment détecter le Shadow AI chez les clients ?
Il n'existe pas un indicateur unique capable de révéler tous les usages d'IA d'une organisation.
La méthode dépend des outils déjà déployés, du niveau de journalisation disponible et du périmètre que le MSP est autorisé à observer.
Commencer par l'inventaire connu
Le premier travail consiste à comparer :
- les solutions d'IA officiellement approuvées ;
- les comptes et licences administrés ;
- les applications et extensions présentes sur les postes lorsque ces informations sont disponibles ;
- les services identifiés dans les journaux ou outils de sécurité accessibles au MSP ;
- les usages déclarés par les équipes.
L'écart entre le catalogue approuvé et les usages observés fournit une première liste de cas à examiner.
Cette logique rejoint plus largement le besoin d'un inventaire fiable des logiciels et équipements du parc.
Croiser plusieurs sources plutôt que chercher une preuve unique
Selon l'environnement du client, les indices peuvent provenir :
- de l'inventaire logiciel ;
- des extensions de navigateur ;
- des journaux d'identité disponibles ;
- des journaux proxy, DNS ou pare-feu lorsque le MSP y a accès et que leur exploitation est prévue ;
- des demandes de support ;
- des dépenses ou abonnements SaaS identifiés ;
- des questionnaires adressés aux équipes ;
- des incidents impliquant des contenus générés par IA.
Ces monitoring tools ne donnent pas tous la même information.
Une connexion à un domaine associé à une IA ne prouve pas, à elle seule, qu'un utilisateur y a transmis des données sensibles. À l'inverse, l'absence d'une application installée ne signifie pas qu'aucun service d'IA n'est utilisé, puisque de nombreux outils fonctionnent directement dans le navigateur.
Distinguer détection et gouvernance
C'est un point important pour éviter une mauvaise attribution à Goodweek.
Goodweek apporte un environnement gouverné pour les usages qui passent par la plateforme : gestion des utilisateurs et des permissions, accès à plusieurs modèles, analytics d'utilisation et audit logs des interactions.
Goodweek ne doit donc pas être présenté comme un scanner universel capable de découvrir automatiquement tous les outils de Shadow AI utilisés en dehors de son environnement.
Son intérêt est différent : remplacer une partie des usages dispersés par un point d'accès à l'IA que le MSP et le client peuvent administrer.
Comment évaluer les risques du Shadow AI ?
Une liste "outils autorisés / outils interdits" est insuffisante. Deux utilisations du même modèle peuvent présenter des niveaux de risque très différents.
Le MSP peut classer les usages selon quatre critères :
- Les données : publiques, internes, données personnelles, données clients, secrets ou informations stratégiques.
- L'action demandée : reformulation, synthèse, analyse, génération de code ou prise de décision.
- L'environnement : compte personnel, compte professionnel non administré ou solution approuvée.
- Le contrôle : absence de validation, revue humaine, journalisation, restriction des accès.
Une matrice simple permet ensuite de traduire cette analyse en décision.
Cette classification doit être adaptée au contexte contractuel et réglementaire de chaque client.
Elle évite surtout deux politiques inefficaces : tout autoriser parce que l'IA améliore la productivité ou tout bloquer sans fournir d'alternative.
Comment encadrer l'utilisation de l'IA sans bloquer son adoption ?
L'objectif d'une politique Shadow AI n'est pas de ralentir l'AI adoption. Elle doit permettre aux équipes de savoir rapidement ce qu'elles peuvent faire, avec quel outil et sous quelles conditions.
L'ANSSI recommande une approche de sécurité adaptée au cycle de vie et au contexte de déploiement des systèmes d'IA générative. Ses recommandations couvrent notamment la sécurisation des environnements et les contrôles à prévoir avant la mise en production.
1. Définir les solutions d'IA approuvées
Le service informatique doit pouvoir fournir une liste claire des outils autorisés et des cas d'usage associés.
Une solution peut être approuvée pour certains usages et exclue pour d'autres.
2. Définir les données interdites ou encadrées
La politique doit citer des exemples compréhensibles par les équipes :
- données personnelles ;
- données clients ;
- identifiants et secrets ;
- informations financières ;
- code propriétaire ;
- contrats ;
- documentation interne sensible.
Une règle concrète est plus facile à appliquer qu'une interdiction générique des "données confidentielles".
3. Définir quand une validation humaine est obligatoire
Une sortie d'IA utilisée pour préparer un brouillon n'a pas le même impact qu'un script exécuté en production ou qu'une décision communiquée à un client.
Le niveau de revue doit augmenter avec le risque de l'action.
4. Donner une alternative aux outils non approuvés
L'interdiction seule laisse intact le besoin qui a conduit au Shadow AI.
Si les employés utilisent une IA pour synthétiser, rédiger ou rechercher plus rapidement, la gouvernance doit proposer une solution autorisée capable de couvrir ces usages.
Goodweek répond précisément à cette logique en regroupant plusieurs modèles dans un environnement administré. La plateforme permet notamment de gérer les utilisateurs et leurs permissions, de disposer d'analytics d'utilisation et de conserver des audit logs des interactions réalisées dans Goodweek.
5. Former et réévaluer
Les outils et les usages évoluent rapidement. Une politique figée devient donc rapidement déconnectée des pratiques réelles.
Le MSP peut prévoir une revue périodique portant sur :
- les nouveaux cas d'usage demandés ;
- les écarts constatés ;
- les incidents ;
- les solutions nouvellement utilisées ;
- les besoins des métiers ;
- les règles devenues trop restrictives ou insuffisantes.
La sensibilisation permet ensuite de traduire ces règles en comportements concrets. Sur ce sujet, les MSP peuvent approfondir les méthodes de formation des utilisateurs :
Comment se débarrasser d’un phishing : conseils pratiques + outils
Goodweek : créer un environnement IA gouverné pour les clients
Le Shadow AI apparaît notamment lorsque l'offre officielle ne répond pas aux usages réels. Une stratégie efficace doit donc associer contrôle et alternative exploitable.
Goodweek permet de centraliser l'accès à plusieurs modèles d'IA et de créer des espaces adaptés aux équipes. La plateforme propose notamment :
- une gestion centralisée des utilisateurs ;
- des contrôles d'accès par rôle ;
- des espaces IA dédiés ;
- des analytics d'utilisation ;
- des audit logs sur les interactions ;
- une isolation des données entre tenants ;
- des mécanismes d'authentification d'entreprise.
Pour un MSP qui administre plusieurs clients, cette approche permet de déplacer une partie de l'utilisation de l'IA depuis des comptes et services dispersés vers un environnement dont les accès et les usages sont administrables.
La nuance reste essentielle : Goodweek gouverne les usages réalisés dans Goodweek. Il ne faut pas lui attribuer la détection exhaustive des outils IA utilisés en dehors de la plateforme.
Le rôle du MSP reste donc de combiner gouvernance, visibilité, règles d'utilisation et accompagnement des équipes.
Conclusion : reprendre le contrôle du Shadow AI sans renoncer à l'IA
Le Shadow AI ne disparaîtra pas simplement parce qu'une organisation interdit certains outils. Tant que les employés trouvent dans l'intelligence artificielle un moyen plus rapide d'accomplir une tâche, des usages non encadrés peuvent apparaître.
Pour un MSP, la réponse consiste à identifier les usages, évaluer leurs risques, protéger les données sensibles et proposer des solutions d'IA gouvernées plutôt que laisser chaque équipe construire sa propre stack.
Goodweek permet justement de proposer aux clients un environnement centralisé pour accéder à plusieurs modèles d'IA avec des contrôles de gouvernance et de traçabilité.
Pour étudier son intégration dans les environnements des clients, demandez une démonstration à BeMSP.
FAQ
ChatGPT est-il du Shadow AI ?
Pas systématiquement.
ChatGPT devient un usage de Shadow AI lorsqu'il est utilisé en dehors du cadre défini par l'organisation, par exemple via un compte personnel alors que cet usage n'est pas autorisé, ou pour traiter des données que la politique interdit de transmettre à ce service.
C'est donc le contexte d'utilisation et de gouvernance, et non le seul nom de l'outil, qui permet de qualifier l'usage.
Comment détecter le Shadow AI ?
La détection repose sur le croisement de plusieurs sources : inventaire logiciel, services SaaS connus, journaux disponibles, identité, réseau, dépenses, tickets et échanges avec les équipes.
Aucun signal ne permet à lui seul de prouver tous les usages. Une connexion vers un service d'IA, par exemple, ne permet pas de savoir automatiquement quelles données lui ont été transmises.
Comment limiter les risques du Shadow AI ?
Une politique efficace combine quatre éléments : identifier les usages, classifier les données et les risques, définir les outils autorisés et fournir aux employés une alternative adaptée.
La formation et la réévaluation régulière du cadre sont nécessaires pour éviter qu'une politique devenue obsolète ne recrée du Shadow AI.
Quelle différence entre Shadow AI et Shadow IT ?
Le Shadow IT concerne l'utilisation de technologies ou services hors du cadre approuvé par l'organisation.
Le Shadow AI en est une déclinaison centrée sur l'intelligence artificielle. Il ajoute des problématiques spécifiques liées aux prompts, aux données transmises aux modèles, aux contenus générés et à leur utilisation dans les processus métier.
Goodweek détecte-t-il tous les outils de Shadow AI ?
Non. Ce n'est pas ainsi qu'il faut positionner la solution.
Goodweek fournit un environnement gouverné pour accéder à plusieurs modèles d'IA, administrer les utilisateurs et permissions et disposer d'une traçabilité des interactions effectuées dans la plateforme.
Il constitue donc une réponse de gouvernance des usages IA, et non un outil universel de découverte de tous les services d'IA utilisés en dehors de son environnement.
