Gouvernance de l'IA
Gouverner l'IA ne se limite pas à respecter un règlement : il s'agit de savoir à tout moment quels systèmes sont en service, ce qu'ils décident, qui en répond et quand il faut les arrêter. La conformité vient ensuite, et se démontre par ce que cette gouvernance produit.
La plupart des entreprises découvrent qu'elles doivent gouverner leur IA le jour où quelqu'un demande qui a autorisé une décision. À ce stade, des modèles tournent déjà en production sans que personne ne les contrôle, et des outils génératifs sont utilisés avec des comptes personnels.
Trois niveaux, chacun fondé sur le précédent
Il n'y a pas d'agent fiable sur des modèles non gouvernés, ni de modèle fiable sur des données non gouvernées. C'est l'ordre dans lequel on construit.
- 01
Gouvernance des données
Les données dont nous disposons sont-elles fiables ?
Qualité, traçabilité, propriété et accès : qui est responsable de chaque jeu de données, d'où il provient et dans quel état il se trouve. C'est le socle : ce qui n'est pas gouverné à ce niveau se répercute sur les niveaux supérieurs.
- 02
Gouvernance du machine learning
Nos conclusions sont-elles toujours valables ?
Inventaire des modèles, validation préalable convenue avec les métiers, surveillance de la dérive, réentraînement avec retour arrière possible et un responsable par modèle. Un modèle ne tombe pas en panne : il se dérègle en silence tout en continuant à produire des chiffres.
- 03
Gouvernance de l'IA générative et des agents
Que dit-elle et que fait-elle en notre nom ?
Quelles données peuvent sortir et vers où, ce qu'un agent peut exécuter sans validation humaine, plafonds de dépenses, traçabilité et transparence envers les personnes. C'est le niveau qui ne peut presque jamais attendre, car le risque ne tient pas à la précision mais à l'exposition.
Les questions qui doivent avoir une réponse claire
- Combien de systèmes d'IA sont en production et ce que décide chacun d'eux.
- Qui répond de chaque système, avec son nom et sa fonction.
- Quelles données entrent, d'où elles sortent et jusqu'où elles peuvent circuler.
- Comment vérifier qu'ils fonctionnent toujours, et quel seuil déclenche une revue.
- Ce qui s'arrête automatiquement et ce qui exige une validation humaine.
- Ce que coûte chaque système et qui en détient le budget.
Si l'une de ces questions reste sans réponse, c'est le point de départ du travail ; c'est souvent aussi le constat le plus inconfortable de l'audit IA.
Gouvernance et conformité ne se confondent pas
La conformité répond aux autorités de contrôle : classification selon le risque, documentation technique, enregistrements et contrôle humain au titre du règlement sur l'IA (AI Act) et du RGPD. La gouvernance répond à l'entreprise : que les systèmes fassent ce qu'ils doivent, que quelqu'un en réponde et qu'il soit possible de les arrêter.
L'ordre compte. Une fois les trois niveaux en place, une bonne partie des preuves exigées par la réglementation existe déjà et la conformité devient un travail de documentation. Sans eux, ces preuves doivent être produites dans l'urgence, à un coût bien plus élevé.
La place de la gouvernance dans DALIA
La gouvernance est la dernière phase de DALIA — A · Adoption : gouvernance, mesure et passage à l'échelle — et c'est elle qui détermine si ce qui a été mis en place perdure au-delà de la première année. Les quatre phases précédentes choisissent et lancent les initiatives ; celle-ci en assure la pérennité.
D'abord, l'inventaire
Le point de départ n'est pas une politique écrite, mais l'inventaire réel des systèmes, des données et des responsables. C'est sur cette base que l'on décide quoi gouverner en premier.