Gouvernance de l'IA générative en entreprise : rôles, règles, traces et coûts
Gouverner l'IA générative ne consiste pas à rédiger une charte puis à espérer qu'elle soit lue. C'est décider qui a accès à quels modèles, avec quelles données, pour quel budget, et pouvoir le prouver après coup. Ce guide décrit les six chantiers qui transforment des usages dispersés en un service d'entreprise.
Publié le 22 septembre 2026
Ce que recouvre la gouvernance de l'IA générative
La gouvernance de l'IA générative, c'est l'ensemble des décisions et des contrôles qui encadrent son usage dans l'organisation : qui peut s'en servir, avec quels outils, sur quelles données, pour quelles actions, à quel coût, et avec quelle trace. Elle se distingue de la gouvernance des données, qui existe souvent déjà, sur un point : le modèle ne se contente pas de stocker l'information, il la reformule, la combine et peut agir à partir d'elle.
Trois propriétés rendent le sujet particulier :
- L'usage est diffus. Un outil d'IA générative se consulte depuis un navigateur, sans projet informatique ni budget dédié. L'usage précède presque toujours la décision.
- Le coût est variable. Une facturation au volume de texte traité croît avec l'usage, parfois brutalement quand un agent enchaîne les appels.
- La sortie est probabiliste. Une réponse plausible peut être fausse. La gouvernance doit donc porter autant sur ce que le modèle produit que sur ce qu'il reçoit.
Les rôles, la politique d'usage, le catalogue de modèles autorisés.
L'accès aux modèles, aux sources documentaires et aux outils connectés.
La trace de qui a demandé quoi, avec quel modèle, pour quelle action.
Le budget, les plafonds et le suivi de la consommation.
Une gouvernance se juge à une seule chose : la capacité à répondre à ces questions sur des faits, et non sur des intentions. Une charte signée sans journal ni contrôle d'accès ne répond à aucune d'elles.
Les rôles : qui décide quoi
L'erreur la plus fréquente est de confier le sujet à une seule fonction. La DSI le traite comme un projet d'outillage, la direction juridique comme un risque, les métiers comme une opportunité, et chacun décide dans son coin. Une gouvernance qui tient répartit explicitement les décisions.
| Fonction | Ce qu'elle décide | Ce qu'elle ne doit pas décider seule |
|---|---|---|
| Direction générale | Les objectifs, le niveau de risque accepté, le budget global | Le choix des modèles |
| DSI | L'architecture, le catalogue de modèles, l'exploitation, l'intégration au SI | Les usages métier prioritaires |
| RSSI | Les règles de sécurité, la classification des données admissibles, la revue des droits | Le budget d'usage |
| DPO | La conformité des traitements de données personnelles, les analyses d'impact | L'architecture technique |
| Directions métier | Les cas d'usage, la valeur attendue, la validation des résultats | L'ouverture de nouveaux fournisseurs |
| Référents IA | L'accompagnement des utilisateurs, la remontée des besoins et des incidents | Les dérogations à la politique |
Deux compléments rendent ce partage opérant. D'abord, une instance courte, qui réunit ces fonctions à intervalle régulier et tranche les demandes : nouveau cas d'usage, nouveau modèle, nouveau connecteur. Ensuite, un propriétaire nommé pour chaque agent ou assistant mis en service, qui répond de son périmètre, de ses sources et de ses droits. Un assistant sans propriétaire est un assistant que personne ne mettra à jour.
Une politique d'usage qui s'applique vraiment
Une politique d'usage utile tient sur une page et croise deux dimensions : la sensibilité des données et l'outil utilisé. Une interdiction générale ne résiste pas à l'usage : elle déplace les pratiques hors de vue, ce que décrit notre guide sur le shadow AI.
La position de l'ANSSI donne un point de départ solide. Son guide de recommandations de sécurité pour un système d'IA générative recommande de proscrire l'usage d'outils d'IA générative grand public sur Internet dès qu'il implique des données sensibles (recommandation R34), en citant notamment les données personnelles, les données contractuelles, juridiques ou financières et les secrets comme les mots de passe ou les clés d'API.
Une politique applicable précise donc :
- Les catégories de données : publiques, internes, confidentielles, personnelles, secrets. Reprenez votre classification existante plutôt que d'en créer une nouvelle.
- Les outils autorisés pour chaque catégorie : l'outil interne gouverné, un fournisseur contracté, aucun outil.
- Les usages exclus : décisions individuelles sans relecture humaine, production de contenu publié sans validation, traitement de données dont la sortie est interdite.
- La responsabilité de l'utilisateur : relire, vérifier les sources, signaler une erreur ou un incident.
- Le canal de demande : comment obtenir un nouvel usage, un nouveau modèle ou une dérogation, et dans quel délai.
Une politique qui interdit sans proposer d'alternative autorisée est contournée dès le premier jour. La règle « pas de données confidentielles dans un outil public » n'est tenable que si un outil interne accepte ces données.
Un catalogue de modèles et des droits d'accès
Le catalogue de modèles est la liste des modèles que l'organisation autorise, avec pour chacun le fournisseur, le lieu d'exécution, les catégories de données admises et les usages prévus. Il évite deux dérives opposées : chaque équipe qui contracte son propre fournisseur, et un modèle unique imposé à tous les usages.
Un bon catalogue distingue au moins trois niveaux :
- Les modèles exécutés en interne, seuls admis pour les données les plus sensibles.
- Les modèles de fournisseurs contractés, admis pour les données dont la sortie est acceptée par contrat, éventuellement après pseudonymisation.
- Les modèles exclus, faute de garanties suffisantes ou de besoin identifié.
Le choix entre ces niveaux relève de l'architecture, traitée dans le guide sur l'IA générative on-premise. La gouvernance, elle, décide qui y accède. Les droits se posent par groupe et non par personne, et portent sur trois objets : les modèles, les sources documentaires consultables et les outils connectés sur lesquels un agent peut agir. Un assistant documentaire qui ignore les droits de l'annuaire transforme une recherche interne en fuite d'information.
Ces droits vieillissent. L'ANSSI recommande une revue régulière des droits des outils d'IA générative sur les applications métier (recommandation R35), dès l'activation puis à intervalle fixe, parce que les mises à jour d'un produit peuvent élargir des accès sans que personne ne l'ait décidé.
La traçabilité : ce qu'il faut pouvoir prouver
Une trace sert trois publics : le RSSI qui enquête sur un incident, le DPO qui répond à une demande d'accès ou à un contrôle, la direction qui veut savoir à quoi sert réellement l'outil. L'ANSSI recommande de journaliser l'ensemble des traitements réalisés au sein du système d'IA (recommandation R29).
- QuiL'utilisateur authentifié, son groupe, et l'agent ou l'assistant utilisé.
- QuoiLa nature de la demande, le modèle et le fournisseur appelés, les sources consultées.
- Quelle actionToute action exécutée dans un outil connecté, avec la validation humaine qui l'a autorisée.
- CombienLe volume traité et le coût de chaque appel.
Journaliser ne signifie pas tout conserver. Stocker le texte intégral des demandes crée un nouveau gisement de données sensibles, soumis à ses propres règles de conservation. La trace doit permettre de reconstituer ce qui s'est passé sans devenir elle-même le point faible : durée de conservation définie, accès restreint, intégrité vérifiable.
Les actions d'un agent méritent un traitement à part. Lire, rechercher et rédiger un brouillon peuvent s'exécuter librement ; écrire, envoyer ou supprimer engage l'organisation. Le guide sur la validation humaine détaille quelles actions faire confirmer et comment.
Les coûts : un budget piloté, pas une facture subie
L'IA générative déplace la dépense : d'un coût de licence fixe vers un coût d'usage variable, qui dépend du nombre d'utilisateurs actifs, de la longueur des documents traités, du modèle choisi et du nombre d'appels qu'un agent enchaîne. Sans pilotage, la première alerte est la facture.
La gouvernance fixe trois choses :
- Une enveloppe par entité : direction, projet ou groupe d'utilisateurs, avec un responsable.
- Des plafonds et des seuils d'alerte, par utilisateur et par groupe, pour qu'un usage anormal soit vu le jour même et non à la fin du mois.
- Une règle d'affectation des modèles : le modèle le plus coûteux n'est pas le modèle par défaut, il est réservé aux usages qui le justifient.
Le guide quotas et plafonds de dépense IA décrit comment dimensionner ces limites et les faire vivre au quotidien. La question du coût complet d'une plateforme, qui relève de la décision d'achat, est traitée dans le guide sur le coût de l'IA générative.
Mettre en place la gouvernance par étapes
Une gouvernance ne se décrète pas en une fois. Elle se construit à partir des usages réels, et se durcit à mesure que les usages deviennent critiques.
- Mesurer l'existantQuels outils sont déjà utilisés, par qui, pour quoi. Sans cette photographie, la politique est écrite pour une organisation qui n'existe pas.
- Nommer les rôlesInstance de décision, propriétaires des agents, référents dans les métiers.
- Ouvrir une alternative autoriséeUn outil interne gouverné, avec un catalogue de modèles et des droits, pour que la politique d'usage soit tenable.
- InstrumenterTraces, plafonds, alertes : ce qui permet de passer de la confiance à la vérification.
- Industrialiser les cas d'usagePasser les expérimentations qui ont fait leurs preuves en production, avec des critères de sortie explicites.
La dernière étape est souvent celle où les projets s'arrêtent. Le guide de la preuve de concept à la production détaille les critères qui décident du passage à l'échelle.
Le cadre réglementaire pèse aussi. L'AI Act a rendu applicables dès le 2 février 2025 une obligation de maîtrise de l'IA et l'interdiction de certaines pratiques. L'omnibus numérique, entré en vigueur le 27 juillet 2026, a simplifié l'exigence de maîtrise de l'IA et reporté les obligations des systèmes à haut risque : au 2 décembre 2027 pour les domaines sensibles de l'annexe III (emploi, éducation, accès au crédit, par exemple), selon la page de la Commission européenne consacrée à l'AI Act. Le guide sur les obligations de l'AI Act en détaille la portée pour une entreprise qui déploie. Pour structurer la démarche dans la durée, la norme ISO/IEC 42001 définit les exigences d'un système de management de l'IA.
Questions fréquentes
Faut-il une charte d'utilisation de l'IA générative ?
Oui, mais courte, et adossée à des contrôles. Une charte fixe la règle et la responsabilité de chacun ; sans alternative autorisée, sans droits d'accès et sans trace, elle ne change pas les pratiques.
Qui doit porter la gouvernance de l'IA dans l'entreprise ?
Aucune fonction seule. La DSI porte l'architecture et l'exploitation, le RSSI la sécurité, le DPO la conformité des données personnelles, les métiers les cas d'usage. Une instance commune tranche les demandes, et chaque agent mis en service a un propriétaire nommé.
Que faut-il journaliser sans créer un nouveau risque ?
Qui a fait la demande, avec quel modèle, sur quelles sources, quelle action a été exécutée et avec quelle validation, pour quel coût. Le texte intégral des demandes n'est pas indispensable, et le conserver crée un stock de données sensibles à protéger.
Où se situe SmartAGT
SmartAGT est une plateforme d'agents IA gouvernés déployée on-premise, dans votre périmètre. L'administrateur définit le catalogue de modèles, peut le restreindre aux fournisseurs européens, et fixe des quotas et plafonds par utilisateur, par groupe ou pour tous, avec alertes et blocage. Le coût est suivi par agent, par modèle et par fournisseur, en monnaie réelle.
Toute action d'écriture ou d'exécution est mise en pause jusqu'à validation humaine, et chaque décision rejoint une chaîne d'audit hash-chaînée vérifiable. Le détail est sur la page Sécurité.
