Comment concilier intelligence artificielle et RGPD ?

Pourquoi le RGPD concerne-t-il l'IA ?

Un système d'intelligence artificielle traite des données personnelles à plusieurs moments de sa vie : lors de la constitution des bases d'entraînement, parfois issues de la collecte de contenus publics sur internet, lors de l'entraînement lui-même, puis lors de son utilisation, lorsque les utilisateurs saisissent des informations ou que le système produit des résultats concernant des personnes. Le RGPD s'applique à chacune de ces étapes. Le Comité européen de la protection des données a précisé dans son avis 28/2024 du 17 décembre 2024 qu'un modèle entraîné sur des données personnelles ne peut être considéré comme anonyme que si la probabilité d'extraire ces données ou de les obtenir par des requêtes est insignifiante, ce qui doit être démontré.

Quelle base légale pour entraîner un modèle ?

L'entraînement d'un modèle sur des données personnelles doit reposer sur une base légale. Le consentement est rarement praticable à grande échelle ; l'intérêt légitime est donc souvent envisagé. La CNIL a publié en 2024 et 2025 une série de fiches pratiques sur l'IA, qui admettent l'intérêt légitime sous conditions : un intérêt clairement défini, une nécessité démontrée, et une mise en balance qui tient compte des attentes raisonnables des personnes et prévoit des garanties, comme l'exclusion de certaines sources, le filtrage des données sensibles, la pseudonymisation, un droit d'opposition effectif et une information claire. Le projet européen de simplification de 2025 prévoit de reconnaître expressément l'intérêt légitime pour le développement de l'IA, mais à la date de vérification aucun texte n'est adopté.

Les données collectées sur internet

La collecte automatisée de contenus publics, dite moissonnage ou web scraping, ne rend pas ces données libres d'utilisation : elles restent des données personnelles, et leur caractère public ne suffit pas à justifier n'importe quel usage. La CNIL recommande notamment de définir des critères de collecte précis, d'exclure les sites qui s'y opposent par des moyens techniques, de ne pas collecter de données sensibles et de supprimer rapidement les données non pertinentes.

L'IA générative en entreprise

Utiliser un assistant d'IA générative au travail soulève des questions très concrètes : un salarié qui colle dans un outil grand public le compte rendu d'un entretien annuel, un fichier clients ou un dossier médical transmet ces données à un tiers, qui peut les conserver ou les réutiliser. L'organisme doit encadrer ces usages : choisir des outils dont les conditions excluent la réutilisation des données saisies pour l'entraînement, vérifier la localisation et les transferts, rédiger une charte d'utilisation, former les salariés et proscrire la saisie de données sensibles ou confidentielles dans les outils non validés.

Transparence et droits des personnes

Les personnes doivent être informées de l'utilisation de leurs données pour l'entraînement ou le fonctionnement d'un système d'IA. Lorsque l'information individuelle est impossible, par exemple pour des données collectées sur internet, une information générale, accessible et précise est publiée. Les droits d'accès, de rectification, d'effacement et d'opposition s'appliquent, même s'ils sont plus difficiles à mettre en œuvre dans un modèle déjà entraîné : la CNIL recommande de prévoir des mesures comme le filtrage des sorties ou le réentraînement périodique. Lorsque le système prend des décisions produisant des effets importants sans intervention humaine, les règles relatives aux décisions automatisées s'appliquent.

L'articulation avec l'AI Act

Le règlement (UE) 2024/1689 sur l'intelligence artificielle, entré en vigueur le 1er août 2024, classe les systèmes selon leur niveau de risque. Il ne remplace pas le RGPD : il s'y ajoute. Les pratiques interdites, comme la notation sociale ou certaines formes de reconnaissance des émotions au travail, s'appliquent depuis le 2 février 2025, les obligations des modèles d'IA à usage général depuis le 2 août 2025 et les obligations de transparence de l'article 50 depuis le 2 août 2026. Le règlement (UE) 2026/1744, publié au Journal officiel le 24 juillet 2026, a reporté au 2 décembre 2027 les obligations applicables aux systèmes à haut risque de l'annexe III (recrutement, crédit, éducation, biométrie) et au 2 août 2028 celles des systèmes intégrés à des produits réglementés.

L'analyse d'impact, un outil commun

Un système d'IA qui traite des données personnelles réunit souvent plusieurs critères qui rendent obligatoire une analyse d'impact : technologie innovante, évaluation des personnes, grande échelle, personnes vulnérables. L'AI Act prévoit de son côté, pour certains déployeurs de systèmes à haut risque, une analyse d'impact sur les droits fondamentaux, qui peut s'appuyer sur l'AIPD déjà réalisée. Mener les deux exercices de façon coordonnée, dès la conception du projet, évite les doublons et permet d'intégrer les garanties au bon moment, conformément au principe de protection des données dès la conception.

Le rôle de la CNIL

La CNIL a créé un service de l'intelligence artificielle et publie des recommandations pratiques pour les concepteurs et les utilisateurs de systèmes d'IA. Elle a été pressentie pour exercer certaines missions de surveillance prévues par l'AI Act en France, aux côtés d'autres autorités sectorielles, selon la répartition fixée par le législateur national. Elle reste compétente, dans tous les cas, pour tout ce qui relève du RGPD.

Les phases du cycle de vie d'un système d'IA

Le RGPD s'applique différemment selon les phases du cycle de vie d'un système d'intelligence artificielle. La phase de développement comprend la constitution des jeux de données, leur annotation, l'entraînement et la validation du modèle ; les données traitées peuvent provenir de sources variées, internes ou collectées sur internet. La phase de déploiement correspond à l'utilisation du système, au cours de laquelle de nouvelles données sont traitées, comme les questions posées à un assistant ou les documents analysés. Chaque phase constitue un traitement distinct, avec sa propre finalité, sa base légale et parfois un responsable différent. La CNIL recommande de bien distinguer ces phases pour déterminer les obligations applicables à chacune.

L'avis du CEPD sur les modèles d'IA

Le Comité européen de la protection des données a adopté le 17 décembre 2024 un avis sur certains aspects de la protection des données liés aux modèles d'intelligence artificielle. Il y examine trois questions. Un modèle entraîné avec des données personnelles peut-il être considéré comme anonyme ? Seulement si la probabilité d'extraire des données personnelles du modèle, directement ou par des requêtes, est insignifiante, ce qui doit être évalué au cas par cas. L'intérêt légitime peut-il fonder le développement et le déploiement d'un modèle ? Oui, sous réserve du test en trois étapes et de garanties adaptées. Quelles sont les conséquences d'un développement illicite sur l'utilisation ultérieure du modèle ? Elles dépendent des circonstances, notamment de l'anonymisation du modèle et de la vérification réalisée par le déployeur. Cet avis sert de référence aux autorités nationales.

Les recommandations pratiques de la CNIL

La CNIL a publié une série de fiches pratiques sur le développement des systèmes d'IA, complétées en 2025. Elles recommandent de définir une finalité précise dès la conception, même pour des modèles à usage général, en décrivant les capacités envisagées ; de choisir une base légale adaptée, l'intérêt légitime étant souvent mobilisable pour le développement avec des garanties ; de minimiser les données d'entraînement en filtrant les catégories inutiles et les données sensibles ; de fixer des durées de conservation des jeux de données ; d'informer les personnes, y compris de manière générale lorsque les données ont été collectées indirectement ; de faciliter l'exercice des droits ; de sécuriser le développement ; et de documenter l'ensemble dans une analyse d'impact lorsque les critères sont réunis.

Le moissonnage de données en ligne

De nombreux modèles sont entraînés sur des données collectées automatiquement sur internet, par des techniques de moissonnage. La CNIL considère que cette pratique peut reposer sur l'intérêt légitime, à condition de prévoir des garanties importantes : définir à l'avance des critères de collecte précis, exclure les sites qui s'opposent au moissonnage par des protocoles techniques, exclure les sites contenant des données sensibles ou concernant des personnes vulnérables, comme les forums de santé, supprimer rapidement les données non pertinentes collectées par erreur, et respecter les attentes raisonnables des personnes. Elle recommande aussi de tenir une liste des sites moissonnés et de mettre en place un mécanisme d'opposition. Les données de sites protégés par un accès payant ou un identifiant ne doivent pas être collectées sans autorisation.

L'IA générative dans l'entreprise : une charte d'usage

L'usage d'outils d'intelligence artificielle générative par les salariés, souvent sans validation de l'employeur, expose les entreprises à des risques : divulgation de données clients ou de secrets d'affaires dans des outils qui réutilisent les saisies, résultats erronés intégrés dans des documents, atteintes au droit d'auteur. Une charte d'usage permet d'encadrer ces pratiques. Elle précise les outils autorisés, de préférence des offres professionnelles garantissant la non-réutilisation des données ; les informations qui ne doivent jamais être saisies, comme les données personnelles de clients ou de salariés, les données sensibles et les informations confidentielles ; l'obligation de vérifier les résultats ; et la mention de l'usage de l'IA lorsque c'est nécessaire. La CNIL recommande aussi de former les salariés aux limites de ces outils.

Les obligations du règlement sur l'IA pour les déployeurs

Le règlement européen sur l'intelligence artificielle distingue les fournisseurs, qui développent les systèmes, et les déployeurs, qui les utilisent dans le cadre de leurs activités professionnelles. Les déployeurs de systèmes à haut risque doivent notamment utiliser le système conformément à sa notice, confier le contrôle humain à des personnes compétentes, veiller à la pertinence des données d'entrée, surveiller le fonctionnement, conserver les journaux générés et informer les personnes concernées lorsque le système prend ou aide à prendre des décisions les concernant. Certains déployeurs, comme les organismes publics, doivent réaliser une analyse d'impact sur les droits fondamentaux. Tous les fournisseurs et déployeurs doivent par ailleurs veiller à un niveau suffisant de maîtrise de l'IA de leur personnel, obligation applicable depuis le 2 février 2025.

Les assistants conversationnels sur les sites

De nombreux sites intègrent désormais un assistant conversationnel pour répondre aux questions des visiteurs. Les conversations peuvent contenir des données personnelles, parfois sensibles, que le visiteur saisit spontanément. L'éditeur doit informer les utilisateurs qu'ils échangent avec une IA, préciser dans sa politique de confidentialité la finalité, le fournisseur, la localisation du traitement et la durée de conservation des conversations, et vérifier que le fournisseur ne réutilise pas les échanges pour entraîner ses modèles sans base légale. Il est prudent de conseiller aux utilisateurs de ne pas saisir d'informations sensibles et de prévoir un accès à un interlocuteur humain pour les demandes complexes ou les réclamations.

Les droits des personnes face aux modèles

L'exercice des droits sur les modèles d'IA soulève des difficultés inédites. Comment accéder aux données d'une personne qui ont servi à entraîner un modèle ? Comment les effacer lorsqu'elles ont influencé les paramètres ? La CNIL recommande aux développeurs de conserver les jeux d'entraînement de façon à pouvoir y rechercher les données d'une personne, de mettre en place des filtres empêchant le modèle de restituer des données personnelles, et d'envisager le réentraînement lorsque c'est proportionné. Elle admet que certaines demandes puissent être difficiles à satisfaire techniquement, mais exige que les développeurs démontrent les mesures prises. Pour les données saisies par les utilisateurs lors du déploiement, les droits s'exercent de manière classique auprès du responsable.

Les sanctions liées à l'IA

Les autorités de protection des données ont déjà sanctionné des acteurs de l'intelligence artificielle. L'autorité italienne a infligé en décembre 2024 une amende de 15 millions d'euros à l'éditeur d'un assistant conversationnel pour des manquements relatifs à la base légale, à la transparence et à la vérification de l'âge. La CNIL a sanctionné en 2022 la société Clearview AI à hauteur de 20 millions d'euros pour la constitution d'une base de reconnaissance faciale à partir de photos collectées sur internet. D'autres autorités ont imposé des suspensions temporaires de services ou des mesures correctrices. Ces décisions montrent que le RGPD s'applique pleinement aux technologies d'IA, en attendant la pleine application du règlement européen spécifique.

Les biais et l'équité des systèmes d'IA

Les systèmes d'intelligence artificielle apprennent à partir de données qui reflètent la société, avec ses inégalités et ses discriminations. Un modèle entraîné sur des données biaisées peut reproduire ou amplifier ces biais, par exemple en défavorisant certains groupes dans un processus de recrutement, d'octroi de crédit ou de modération de contenus. Le principe de loyauté du RGPD, le considérant 71 sur la prévention des effets discriminatoires et les exigences de qualité des données du règlement sur l'IA imposent de détecter et corriger ces biais. Cela suppose d'examiner la composition des jeux de données, de tester les performances du modèle selon différents groupes et de surveiller ses résultats en production. Le règlement sur l'IA autorise exceptionnellement le traitement de données sensibles lorsque c'est strictement nécessaire pour détecter et corriger les biais des systèmes à haut risque, avec des garanties strictes.

La sécurité des systèmes d'IA

Les systèmes d'IA présentent des vulnérabilités spécifiques. Les attaques par inférence d'appartenance permettent de savoir si les données d'une personne ont servi à l'entraînement. Les attaques par extraction visent à faire restituer au modèle des données d'entraînement, comme des noms, des adresses ou des informations médicales. Les injections de requêtes cherchent à contourner les consignes d'un assistant pour lui faire divulguer des informations ou exécuter des actions non prévues. L'empoisonnement des données d'entraînement peut altérer le comportement du modèle. La CNIL et l'ANSSI ont publié des recommandations de sécurité pour les systèmes d'IA générative, qui insistent sur le cloisonnement, le filtrage des entrées et des sorties, la journalisation et les tests adverses avant la mise en production.

L'IA et les données des salariés

Les outils d'intelligence artificielle utilisés dans la gestion des ressources humaines, comme le tri de candidatures, l'analyse des compétences, la planification des équipes ou la détection des risques de départ, traitent des données de salariés et de candidats. Ils doivent respecter les règles du droit du travail et du RGPD : information des salariés et consultation du comité social et économique avant leur mise en œuvre, pertinence des méthodes, absence de discrimination, intervention humaine dans les décisions importantes. Le règlement sur l'IA classe ces systèmes parmi les systèmes à haut risque, et interdit la reconnaissance des émotions sur le lieu de travail, sauf pour des raisons médicales ou de sécurité.

La première étape

Pour une entreprise, la première étape reste simple : savoir quels outils d'IA sont utilisés par ses équipes, avec quelles données, et décider lesquels sont autorisés.

Les modèles ouverts

Les modèles d'IA diffusés en source ouverte, que chacun peut télécharger et réutiliser, posent des questions particulières : le fournisseur perd la maîtrise des usages, et un modèle qui a mémorisé des données personnelles peut les restituer chez tous ses utilisateurs. La CNIL recommande aux développeurs de modèles ouverts de documenter les données d'entraînement, de tester les risques de régurgitation avant diffusion et d'encadrer les conditions de réutilisation par une licence.