Lorsqu’une entreprise commence à utiliser des outils d’IA, l’une des premières questions à se poser est la suivante : quelles données envoyons-nous hors de l’entreprise, à qui et dans quelles conditions ?
La question est plus complexe qu’il n’y paraît, car les données circulent de manières qui ne sont pas toujours évidentes. Un salarié qui copie-colle un contrat client dans ChatGPT pour en obtenir un résumé envoie des informations confidentielles sur les serveurs d’OpenAI. Un service client fondé sur un modèle de langage externe traite des conversations contenant des données personnelles de clients sur les systèmes d’un tiers.
Cet article présente les risques concrets, la manière de les évaluer et les mesures qui permettent de gérer la confidentialité sans freiner l’adoption de l’IA.
Les sources de risque les plus fréquentes
L’utilisation d’API tierces avec des données sensibles. La plupart des outils d’IA générative actuels (ChatGPT, Claude, Gemini) fonctionnent en envoyant les données sur les serveurs du fournisseur pour traiter la requête. Pour des données non sensibles (documentation publique, textes génériques, code sans élément propriétaire), le risque est faible. Pour des données personnelles de clients, des informations financières confidentielles, des données de santé ou des informations stratégiques, il faut vérifier que la politique de confidentialité du fournisseur est compatible avec le RGPD et avec les engagements de confidentialité de l’entreprise.
Des données d’entraînement contenant des informations personnelles. Si une entreprise développe son propre modèle et l’entraîne sur l’historique de ses clients, les obligations du RGPD s’appliquent : base légale du traitement, minimisation des données et, le cas échéant, pseudonymisation des données d’entraînement pour réduire le risque en cas d’incident.
La mémorisation de données par les modèles. Les grands modèles de langage peuvent, dans certains cas, « mémoriser » des fragments des données sur lesquelles ils ont été entraînés et les restituer dans leurs réponses. Chez les fournisseurs qui entraînent leurs modèles sur les données de leurs utilisateurs (ce que les offres entreprise excluent généralement par contrat), cela peut constituer un canal de fuite d’informations.
Les journaux et le stockage des conversations. Les plateformes d’IA conservent souvent les conversations par défaut pour améliorer le service. Les offres entreprise proposent des options de non-conservation. Pour les usages impliquant des données sensibles, il convient de vérifier ce que le fournisseur conserve et pendant combien de temps.
Le RGPD appliqué aux projets d’IA
Le RGPD n’interdit pas l’utilisation de données personnelles dans les systèmes d’IA. Il fixe les principes et les obligations qui permettent de le faire de façon légitime :
Base légale. Tout traitement de données personnelles exige une base légale. Les plus courantes en entreprise sont l’exécution d’un contrat (pour les données clients nécessaires à la fourniture du service), l’intérêt légitime (dans certains cas d’analyse interne) ou le consentement explicite.
Minimisation des données. N’utiliser que les données strictement nécessaires à la finalité du système. Si le nom ou l’adresse du client ne sont pas nécessaires pour prédire l’attrition (churn), mieux vaut entraîner le modèle sans ces données.
Transparence. Si le système d’IA prend des décisions qui concernent des personnes (clients, salariés), celles-ci ont le droit de savoir que ce système existe et, dans certains cas, de demander qu’une personne réexamine les décisions qui les concernent.
Accords de traitement des données. Lorsque l’on recourt à des services tiers (API d’IA, plateformes cloud), il faut signer les accords de traitement des données (DPA) correspondants, qui garantissent que le fournisseur respecte le RGPD.
Les options qui réduisent le risque
Les offres entreprise des outils. OpenAI, Anthropic et Google proposent des offres entreprise de leurs modèles avec des garanties supplémentaires : les données ne servent pas à entraîner de futurs modèles, la non-conservation des conversations est possible et des accords de traitement des données sont disponibles. Pour les entreprises qui traitent des données sensibles, ces offres sont le point de départ.
Les modèles open source déployés en local. Des outils comme Ollama ou LM Studio permettent d’exécuter des modèles de langage performants sur l’infrastructure de l’entreprise, sans envoyer de données à des serveurs externes. Les performances sont un peu inférieures à celles des meilleurs modèles accessibles par API, mais elles suffisent pour de nombreux cas d’usage en entreprise, et la confidentialité des données est entièrement garantie.
La pseudonymisation et l’anonymisation des données d’entraînement. Pour les projets qui développent leurs propres modèles avec des données clients, la pseudonymisation (remplacer les identifiants directs par des codes) réduit le risque en cas d’incident de sécurité et peut suffire à respecter le principe de minimisation du RGPD.
Une politique interne d’utilisation de l’IA. Définir quels types de données peuvent être envoyés à des outils d’IA externes, et lesquels ne le peuvent pas, est une mesure d’organisation interne que de nombreuses entreprises mettent en place. Une politique claire évite que chaque salarié décide seul des données qu’il est approprié de partager avec tel ou tel outil.
Questions fréquentes
Faut-il informer les clients lorsque l’IA traite leurs données ? Cela dépend de l’usage. Si l’IA traite des données personnelles de clients pour prendre des décisions qui les concernent, la transparence est une obligation du RGPD. Si l’IA sert à des analyses internes sans effet direct sur les clients, l’obligation d’information individuelle ne s’applique pas nécessairement, même si la politique de confidentialité de l’entreprise devrait mentionner l’usage de l’IA.
Les modèles d’IA open source sont-ils toujours plus sûrs en matière de confidentialité ? Pas nécessairement. La confidentialité dépend de l’endroit et de la manière dont ils sont déployés. Un modèle open source exécuté sur des serveurs cloud externes présente les mêmes risques qu’un modèle propriétaire. L’avantage en matière de confidentialité apparaît lorsque le modèle tourne sur l’infrastructure de l’entreprise.
Le règlement européen sur l’IA (AI Act) ajoute-t-il des obligations en matière de confidentialité ? Oui, en particulier pour les systèmes à haut risque, soumis à des obligations de gouvernance des données qui complètent le RGPD : les données d’entraînement doivent être pertinentes, représentatives et exemptes de biais inappropriés. Ces exigences s’ajoutent à celles du RGPD, elles ne s’y substituent pas.