Un modèle prédictif ne tombe pas en panne d’un coup : il se dérègle peu à peu tout en continuant à produire des chiffres avec la même assurance. La gouvernance du machine learning évite que l’entreprise continue de décider avec un modèle qui n’est plus valable depuis huit mois sans que personne ne s’en soit aperçu.
C’est la deuxième couche de la gouvernance de l’IA : en dessous, les données, sans lesquelles aucun modèle n’est possible ; au-dessus, l’IA générative et les agents, qui posent des problèmes différents.
Ce que l’on gouverne précisément
L’inventaire. Quels modèles sont en production, ce que décide chacun, sur quelles données il a été entraîné, qui en répond et quand il a été revu pour la dernière fois. Dans beaucoup d’entreprises, cette liste n’existe pas, et la première surprise du projet est de découvrir combien de modèles tournent encore.
La validation préalable. Aucun modèle n’entre en production sans un critère d’acceptation convenu avec les métiers : quelle erreur est tolérable, sur quels segments, et que se passe-t-il pour les cas que le modèle n’a jamais vus.
La dérive. Les données d’entrée évoluent — le marché, le catalogue, la façon de saisir changent — et les performances baissent sans prévenir. On surveille à la fois la distribution des entrées et le résultat réel par rapport au résultat prédit, avec des seuils qui déclenchent une revue.
Le réentraînement. À quelle fréquence, avec quelles données, qui l’approuve et comment revenir en arrière si le nouveau modèle est moins bon. Un réentraînement automatique sans validation est une manière élégante de casser le système.
La traçabilité. Pouvoir reconstituer pourquoi le modèle a décidé ce qu’il a décidé à une date donnée : version, données, paramètres et seuils. C’est ce qui est demandé lorsqu’un client conteste ou qu’un régulateur pose des questions.
La fin de vie. Quand retirer un modèle. Ceux que personne n’utilise mais qui continuent de tourner ne sont que coût et risque silencieux.
Ce qui la distingue de la gouvernance des données
La gouvernance des données répond à la question ce dont je dispose est-il fiable ? ; celle du machine learning, à ce que j’en déduis est-il encore valable ?. On peut avoir des données impeccables et un modèle périmé, comme un modèle bien entretenu qui apprend sur des données de mauvaise qualité. Ce sont deux contrôles distincts, et aucun ne remplace l’autre.
Le lien avec la réglementation
Le règlement européen sur l’IA (AI Act) ne parle pas de « modèles » dans l’abstrait : ses obligations dépendent de l’usage. Un modèle qui intervient dans le recrutement, l’octroi de crédit ou l’accès à des services essentiels relève du haut risque et exige gestion des risques, documentation technique, journalisation et contrôle humain. Une bonne partie de ce dossier correspond exactement à ce que produit une bonne gouvernance des modèles ; le constituer après coup, dans l’urgence, coûte bien plus cher. Le détail réglementaire figure dans conformité et gouvernance de l’IA.
Quand la mettre en place, et quand c’est prématuré
Oui, lorsque plus de deux ou trois modèles sont en service, lorsque l’un d’eux pèse sur des décisions aux conséquences humaines ou financières, ou lorsque l’équipe qui les a construits n’est plus celle qui les maintient.
Pas encore, lorsque un seul modèle est en pilote et que la priorité est de démontrer sa valeur. Il suffit alors de consigner ce qui a été fait, pour ne pas avoir à le reconstituer de mémoire plus tard.
Notre approche
Nous commençons par l’inventaire, qui révèle presque toujours plus de modèles que prévu, dont certains sans responsable. Nous fixons ensuite le critère d’acceptation avec les métiers — et pas avec la seule équipe technique — puis nous instrumentons la surveillance de la dérive sur les modèles qui comptent le plus. L’objectif n’est pas un processus lourd, mais que personne ne puisse répondre « je ne sais pas » aux questions : quels modèles existent, que décident-ils et qui en répond.
Questions fréquentes
N’est-ce pas du MLOps ? Le MLOps, c’est la machinerie — déploiement, gestion des versions, supervision — et il a sa page. La gouvernance, c’est décider de ce qui est acceptable, de qui en répond et du moment où l’on arrête. Elle s’appuie sur le MLOps, mais ne se réduit pas à l’outil.
À quelle fréquence faut-il revoir un modèle ? Cela dépend de la vitesse à laquelle ses données évoluent. Ce qui ne fonctionne pas, c’est de fixer un calendrier et de ne rien regarder entre deux revues : la dérive se surveille en continu et la revue se déclenche quand un seuil est franchi.
Qui doit être responsable d’un modèle ? Une personne des métiers, en charge de la décision que le modèle influence, épaulée par un profil technique. Si l’équipe data est la seule propriétaire, personne ne répond de l’impact.