Gouvernance de l'IA générative en entreprise : rôles, règles, traces et coûts
La gouvernance de l'IA générative repose sur des décisions concrètes : qui peut utiliser quels modèles, avec quelles données et dans quel budget ? Les règles doivent aussi pouvoir être vérifiées. Ce guide présente les rôles, les contrôles et les étapes de mise en place.
Publié le 22 septembre 2026
Ce que recouvre la gouvernance de l'IA générative
La gouvernance de l'IA générative, c'est l'ensemble des décisions et des contrôles qui encadrent son usage dans l'organisation : qui peut s'en servir, avec quels outils, sur quelles données, pour quelles actions, à quel coût, et avec quelle trace. Elle se distingue de la gouvernance des données, qui existe souvent déjà, sur un point : le modèle ne se contente pas de stocker l'information, il la reformule, la combine et peut agir à partir d'elle.
Trois propriétés rendent le sujet particulier :
- L'usage est diffus. Un outil d'IA générative peut être accessible depuis un navigateur, sans projet informatique ni budget dédié. Des équipes peuvent commencer à l'utiliser avant qu'une politique commune soit définie.
- Le coût est variable. Une facturation au volume de texte traité croît avec l'usage, parfois brutalement quand un agent enchaîne les appels.
- Les réponses peuvent être erronées. Même formulée avec assurance, une réponse peut être fausse. Les contrôles doivent couvrir les données envoyées au modèle et les résultats qu'il produit.
Les rôles, la politique d'usage, le catalogue de modèles autorisés.
L'accès aux modèles, aux sources documentaires et aux outils connectés.
La trace de qui a demandé quoi, avec quel modèle, pour quelle action.
Le budget, les plafonds et le suivi de la consommation.
Pour répondre à ces questions, il faut disposer de règles appliquées dans les outils et de traces consultables. Une charte seule ne permet pas de vérifier les accès et les actions réalisés.
Les rôles : qui décide quoi
La DSI, la direction juridique et les équipes métier n'interviennent pas sur les mêmes décisions. Définissez leurs responsabilités et la manière dont elles arbitrent ensemble les nouveaux usages.
| Fonction | Ce qu'elle décide | Ce qu'elle ne doit pas décider seule |
|---|---|---|
| Direction générale | Les objectifs, le niveau de risque accepté, le budget global | Le choix des modèles |
| DSI | L'architecture, le catalogue de modèles, l'exploitation, l'intégration au SI | Les usages métier prioritaires |
| RSSI | Les règles de sécurité, la classification des données admissibles, la revue des droits | Le budget d'usage |
| DPO | La conformité des traitements de données personnelles, les analyses d'impact | L'architecture technique |
| Directions métier | Les cas d'usage, la valeur attendue, la validation des résultats | L'ouverture de nouveaux fournisseurs |
| Référents IA | L'accompagnement des utilisateurs, la remontée des besoins et des incidents | Les dérogations à la politique |
Prévoyez une instance qui réunit régulièrement ces fonctions pour examiner les demandes de nouveaux usages, modèles et connecteurs. Désignez aussi un responsable pour chaque agent ou assistant en service. Il doit suivre son périmètre, ses sources et ses droits d'accès, et veiller à leur mise à jour.
Une politique d'usage qui s'applique vraiment
Une politique d'usage doit préciser quels outils peuvent traiter chaque catégorie de données. Une interdiction générale risque de déplacer les pratiques vers des outils non autorisés, comme l'explique notre guide sur le shadow AI.
La position de l'ANSSI donne un point de départ solide. Son guide de recommandations de sécurité pour un système d'IA générative recommande de proscrire l'usage d'outils d'IA générative grand public sur Internet dès qu'il implique des données sensibles (recommandation R34), en citant notamment les données personnelles, les données contractuelles, juridiques ou financières et les secrets comme les mots de passe ou les clés d'API.
Une politique applicable précise donc :
- Les catégories de données : publiques, internes, confidentielles, personnelles, secrets. Reprenez votre classification existante plutôt que d'en créer une nouvelle.
- Les outils autorisés pour chaque catégorie : l'outil interne gouverné, un fournisseur contracté, aucun outil.
- Les usages exclus : décisions individuelles sans relecture humaine, production de contenu publié sans validation, traitement de données dont la sortie est interdite.
- La responsabilité de l'utilisateur : relire, vérifier les sources, signaler une erreur ou un incident.
- Le canal de demande : comment obtenir un nouvel usage, un nouveau modèle ou une dérogation, et dans quel délai.
Une politique qui interdit sans proposer d'alternative autorisée est contournée dès le premier jour. La règle « pas de données confidentielles dans un outil public » n'est tenable que si un outil interne accepte ces données.
Un catalogue de modèles et des droits d'accès
Le catalogue de modèles est la liste des modèles que l'organisation autorise, avec pour chacun le fournisseur, le lieu d'exécution, les catégories de données admises et les usages prévus. Il évite deux dérives opposées : chaque équipe qui contracte son propre fournisseur, et un modèle unique imposé à tous les usages.
Un bon catalogue distingue au moins trois niveaux :
- Les modèles exécutés en interne, seuls admis pour les données les plus sensibles.
- Les modèles de fournisseurs contractés, admis pour les données dont la sortie est acceptée par contrat, éventuellement après pseudonymisation.
- Les modèles exclus, faute de garanties suffisantes ou de besoin identifié.
Le choix entre ces niveaux relève de l'architecture, traitée dans le guide sur l'IA générative on-premise. La gouvernance, elle, décide qui y accède. Les droits se posent par groupe et non par personne, et portent sur trois objets : les modèles, les sources documentaires consultables et les outils connectés sur lesquels un agent peut agir. Un assistant documentaire qui ignore les droits de l'annuaire transforme une recherche interne en fuite d'information.
Les droits d'accès doivent être revus régulièrement. L'ANSSI recommande de contrôler les droits des outils d'IA générative sur les applications métier (recommandation R35), dès leur activation puis à intervalle fixe. Une mise à jour du produit peut en effet élargir les accès.
La traçabilité : ce qu'il faut pouvoir prouver
Une trace sert trois publics : le RSSI qui enquête sur un incident, le DPO qui répond à une demande d'accès ou à un contrôle, la direction qui veut savoir à quoi sert réellement l'outil. L'ANSSI recommande de journaliser l'ensemble des traitements réalisés au sein du système d'IA (recommandation R29).
- QuiL'utilisateur authentifié, son groupe, et l'agent ou l'assistant utilisé.
- QuoiLa nature de la demande, le modèle et le fournisseur appelés, les sources consultées.
- Quelle actionToute action exécutée dans un outil connecté, avec la validation humaine qui l'a autorisée.
- CombienLe volume traité et le coût de chaque appel.
Journaliser ne signifie pas tout conserver. Le texte intégral des demandes peut contenir des données sensibles et nécessite des règles de conservation adaptées. Gardez les éléments nécessaires pour reconstituer les actions, avec une durée de conservation définie, des accès restreints et une intégrité vérifiable.
Les actions d'un agent méritent un traitement à part. Lire, rechercher et rédiger un brouillon peuvent s'exécuter librement ; écrire, envoyer ou supprimer engage l'organisation. Le guide sur la validation humaine détaille quelles actions faire confirmer et comment.
Définir et suivre les budgets de l'IA
Le coût de l'IA générative comprend souvent une part variable. Elle dépend du nombre d'utilisateurs actifs, de la longueur des documents traités, du modèle choisi et du nombre d'appels effectués par un agent. Un suivi régulier permet de repérer les écarts avant la facture.
La gouvernance fixe trois choses :
- Une enveloppe par entité : direction, projet ou groupe d'utilisateurs, avec un responsable.
- Des plafonds et des seuils d'alerte, par utilisateur et par groupe, pour qu'un usage anormal soit vu le jour même et non à la fin du mois.
- Une règle d'affectation des modèles : le modèle le plus coûteux n'est pas le modèle par défaut, il est réservé aux usages qui le justifient.
Le guide quotas et plafonds de dépense IA décrit comment fixer ces limites et les ajuster selon les usages. La question du coût complet d'une plateforme est traitée dans le guide sur le coût de l'IA générative.
Mettre en place la gouvernance par étapes
Commencez par les usages existants, puis renforcez les contrôles à mesure que de nouveaux usages entrent en production.
- Mesurer l'existantRecensez les outils utilisés, leurs utilisateurs et leurs usages avant de rédiger la politique.
- Nommer les rôlesInstance de décision, propriétaires des agents, référents dans les métiers.
- Ouvrir une alternative autoriséeUn outil interne gouverné, avec un catalogue de modèles et des droits, pour que la politique d'usage soit tenable.
- Mettre en place les contrôlesConfigurez la traçabilité, les plafonds et les alertes pour vérifier l'application des règles.
- Industrialiser les cas d'usagePasser les expérimentations qui ont fait leurs preuves en production, avec des critères de sortie explicites.
Le passage de l'expérimentation à la production demande des critères précis. Le guide de la preuve de concept à la production les détaille.
Le cadre réglementaire pèse aussi. L'AI Act a rendu applicables dès le 2 février 2025 une obligation de maîtrise de l'IA et l'interdiction de certaines pratiques. L'omnibus numérique, entré en vigueur le 27 juillet 2026, a simplifié l'exigence de maîtrise de l'IA et reporté les obligations des systèmes à haut risque : au 2 décembre 2027 pour les domaines sensibles de l'annexe III (emploi, éducation, accès au crédit, par exemple), selon la page de la Commission européenne consacrée à l'AI Act. Le guide sur les obligations de l'AI Act en détaille la portée pour une entreprise qui déploie. Pour structurer la démarche dans la durée, la norme ISO/IEC 42001 définit les exigences d'un système de management de l'IA.
Questions fréquentes
Faut-il une charte d'utilisation de l'IA générative ?
Oui, mais courte, et adossée à des contrôles. Une charte fixe la règle et la responsabilité de chacun ; sans alternative autorisée, sans droits d'accès et sans trace, elle ne change pas les pratiques.
Qui doit porter la gouvernance de l'IA dans l'entreprise ?
Aucune fonction seule. La DSI porte l'architecture et l'exploitation, le RSSI la sécurité, le DPO la conformité des données personnelles, les métiers les cas d'usage. Une instance commune tranche les demandes, et chaque agent mis en service a un propriétaire nommé.
Que faut-il journaliser sans créer un nouveau risque ?
Qui a fait la demande, avec quel modèle, sur quelles sources, quelle action a été exécutée et avec quelle validation, pour quel coût. Le texte intégral des demandes n'est pas indispensable, et le conserver crée un stock de données sensibles à protéger.
Où se situe SmartAGT
SmartAGT est une plateforme d'agents IA déployée dans votre infrastructure. L'administrateur définit les modèles autorisés, peut limiter le catalogue aux fournisseurs européens et fixe des plafonds de dépense par utilisateur, par groupe ou pour l'ensemble de l'organisation. Des alertes signalent l'approche d'un plafond et les appels sont bloqués lorsqu'il est atteint. Les coûts sont suivis en euros par agent, modèle et fournisseur.
Toute action d'écriture ou d'exécution attend une validation humaine. Chaque décision est inscrite dans un journal d'audit chaîné dont l'intégrité peut être vérifiée. Le détail figure sur la page Sécurité.