Gouverner un modèle prédictif, c’est veiller à ce que ses chiffres restent valables. Gouverner l’IA générative et les agents, c’est autre chose : le système rédige au nom de l’entreprise et exécute des actions sur ses systèmes. Le risque n’est plus une erreur d’estimation, mais un e-mail envoyé, une commande créée ou une donnée sortie là où elle n’aurait pas dû.
C’est la couche la plus récente, et celle qui se met en place le plus vite, presque toujours après que la technologie est déjà entrée dans l’entreprise.
D’abord : ce qui se passe déjà sans autorisation
Avant de rédiger la moindre politique, mieux vaut regarder la réalité. Dans la plupart des entreprises, des collaborateurs utilisent des outils d’IA générative de leur propre initiative, avec des comptes personnels, en y collant des documents internes. L’interdire par note de service ne fonctionne pas : cela ne fait que le rendre invisible. Une gouvernance utile commence par proposer une voie autorisée plus commode que la voie clandestine, et par mesurer l’activité qui passe par chacune.
Les six contrôles
Quelles données peuvent sortir, et vers où. Une classification minimale — public, interne, confidentiel, personnel — et une règle explicite indiquant quelle catégorie peut être traitée par quel service. Sans cela, aucune politique ne peut être réellement appliquée.
Ce qu’un agent peut exécuter. Un inventaire des actions autorisées, des permissions restreintes et une frontière nette entre ce qui se fait seul et ce qui exige une validation humaine : payer, supprimer, communiquer à l’extérieur. C’est la partie qui se construit dans le harness.
Plafonds de dépenses. Un plafond par exécution et par jour, avec alerte. Une boucle imprévue peut consommer le budget d’un trimestre en une nuit.
Traces et conservation. Ce qui est enregistré de chaque interaction, pendant combien de temps et qui peut le consulter. Sans traces, impossible d’enquêter sur un incident ou de répondre à une réclamation.
Une qualité mesurée, pas supposée. Un système génératif se dégrade au gré des changements d’instructions ou de modèle, sans que personne ne touche au code. L’évaluation et l’observabilité transforment « on dirait que ça marche » en donnée.
Transparence envers les personnes. Quand prévenir qu’on échange avec un système, comment signaler les contenus générés et comment demander une revue humaine. C’est une exigence réglementaire et, avant tout, une question de confiance.
Ce qui la distingue des deux autres couches
| Gouvernance des données | Gouvernance du machine learning | Gouvernance de l’IA générative et des agents | |
|---|---|---|---|
| Question | Ce dont je dispose est-il fiable ? | Ce que j’en déduis est-il encore valable ? | Que dit-il et que fait-il en mon nom ? |
| Risque type | Décider sur des données de mauvaise qualité | Un modèle qui dérive sans que personne ne le remarque | Fuite d’informations et actions non souhaitées |
| Contrôle clé | Qualité, lignage et propriété | Validation, dérive et réentraînement | Permissions, plafonds et traces |
| Rythme | Continu | Par cycles de revue | À chaque exécution |
Chaque couche s’appuie sur la précédente : pas d’agent fiable sur des modèles non gouvernés, ni de modèles fiables sur des données non gouvernées.
Le lien avec la réglementation
Le règlement européen sur l’IA (AI Act) impose des obligations de transparence aux systèmes qui interagissent avec des personnes ou génèrent des contenus, et des obligations bien plus lourdes si le système intervient dans des décisions à haut risque. S’y ajoute le RGPD dès que des données personnelles entrent dans le contexte. Le calendrier et le détail figurent dans conformité et gouvernance de l’IA.
Quand la mettre en place
Dès maintenant, si l’entreprise fait le moindre usage de l’IA générative — autorisé ou non — ou si un agent a accès à des systèmes réels. C’est la seule des trois gouvernances qui ne peut presque jamais attendre, car le risque ne porte pas sur la précision mais sur l’exposition.
Elle peut attendre uniquement si l’usage se limite à un pilote fermé, sans données réelles et sans action sur les systèmes.
Notre approche
Nous commençons par la cartographie des usages réels — y compris non autorisés — et par la classification minimale des données, sans laquelle le reste relève des bonnes intentions. Nous définissons ensuite la frontière des actions et les plafonds, puis nous instrumentons les traces et l’évaluation. La politique écrite est rédigée à la fin, quand on sait ce qui peut réellement être respecté.
Questions fréquentes
Une charte d’utilisation de l’IA suffit-elle ? Non. Une charte que personne ne peut appliquer ni vérifier ne change pas les comportements. Ce sont les contrôles techniques — ce qui sort, ce qui s’exécute, ce qui est enregistré — qui donnent corps à la charte.
Faut-il interdire les outils personnels ? Interdire sans alternative déplace l’usage là où on ne le voit plus. Il est plus efficace de proposer une voie autorisée commode et de mesurer la répartition entre les deux.
Qui doit en répondre ? Un membre de la direction, pas seulement la DSI. Décider quelles données sortent et ce qu’un agent peut faire au nom de l’entreprise relève du métier et de la gestion des risques.