Nouveau cas client : LeadsIt, l’application de prospection B2B que nous avons construite avec l’IA. Lire le cas client →

Guide · 9 min de lecture

Gouvernance de l’IA en entreprise : droits d’accès, traçabilité, conformité

Ce guide vous aide à mettre en place des règles simples pour encadrer l’usage de l’IA dans votre entreprise. Vous saurez qui doit décider, quoi écrire dans une politique d’usage, comment contrôler l’accès aux données, quoi tracer, et quelles obligations du RGPD et de l’AI Act garder en tête.

Pourquoi une gouvernance, et à quelle échelle

La gouvernance de l’IA, c’est l’ensemble des règles qui disent qui peut utiliser quels outils d’IA, avec quelles données, pour quoi faire, et qui contrôle. Elle n’a pas besoin d’être lourde. Pour beaucoup d’entreprises, quelques pages claires et deux ou trois personnes responsables suffisent.

Sans règles, les usages s’installent quand même. Des salariés collent des documents internes dans des outils grand public, des assistants sont branchés sur des données sans vérifier qui y a accès, et personne ne sait dire après coup quelle réponse a été donnée à qui.

L’objectif est double : permettre les usages utiles sans les freiner, et pouvoir rendre des comptes à vos clients, à vos salariés et aux autorités. Les sections qui suivent donnent les briques de base.

Qui décide : les rôles

Désignez un responsable de l’IA ou un petit comité. Il valide les nouveaux usages, tient la liste des outils autorisés et arbitre en cas de doute. Dans une PME, ce peut être un dirigeant épaulé par le responsable informatique.

Associez systématiquement le délégué à la protection des données, s’il y en a un, et le responsable de la sécurité informatique. Le premier vérifie le respect du RGPD. Le second vérifie les risques techniques : fuite de données, accès non autorisés, fournisseurs.

Chaque outil d’IA déployé doit aussi avoir un responsable métier. C’est lui qui juge la qualité des réponses, décide des évolutions et répond des usages dans son périmètre.

  • Un responsable de l’IA ou un petit comité qui valide les usages.
  • Le délégué à la protection des données, pour le RGPD.
  • Le responsable sécurité, pour les risques techniques et les fournisseurs.
  • Un responsable métier par outil déployé.

Une politique d’usage claire

La politique d’usage est le document que chaque salarié doit connaître. Elle tient en quelques pages et parle concrètement. Elle liste les outils autorisés et ceux qui ne le sont pas, les données qu’on peut y mettre et celles qui sont interdites, et les cas où une vérification humaine est obligatoire.

Classez les données en quelques niveaux simples : publiques, internes, confidentielles, personnelles sensibles. Pour chaque niveau, dites quels outils peuvent les recevoir. Par exemple : les données publiques dans tout outil autorisé, les données confidentielles uniquement dans les outils hébergés selon vos exigences.

Rappelez la règle de responsabilité : un contenu produit avec l’aide de l’IA engage la personne qui l’utilise. Elle doit le relire et vérifier les faits avant de l’envoyer. Accompagnez la politique d’une formation courte. L’AI Act demande d’ailleurs aux entreprises qui utilisent des systèmes d’IA de veiller à un niveau suffisant de maîtrise de l’IA chez leur personnel.

Les droits d’accès aux données

Un assistant connecté à vos documents ne doit jamais devenir une porte dérobée. Si un salarié ne peut pas ouvrir un dossier dans votre intranet, il ne doit pas pouvoir en obtenir le contenu en posant une question à l’assistant.

La règle la plus sûre est que l’assistant hérite des droits d’accès des systèmes d’origine. Il interroge les sources avec l’identité de l’utilisateur, ou il filtre les résultats selon les droits de celui-ci. Recréer des droits à la main dans l’outil d’IA mène presque toujours à des écarts.

Appliquez le principe du moindre privilège : chaque outil, chaque connecteur et chaque utilisateur n’a accès qu’à ce dont il a besoin. Revoyez ces accès à intervalles réguliers, et retirez-les dès qu’une personne change de poste ou quitte l’entreprise.

  • Droits hérités des systèmes d’origine.
  • Moindre privilège pour les utilisateurs et les connecteurs.
  • Revue périodique des accès.
  • Retrait des accès au départ ou au changement de poste.

La traçabilité : ce qu’il faut journaliser

Un journal est un enregistrement daté de ce qui s’est passé. Pour un outil d’IA, il permet de répondre à des questions simples : qui a demandé quoi, quelle réponse a été donnée, sur quelles sources, quelle action a été proposée, qui l’a validée.

Ces journaux servent à corriger les erreurs, à répondre à une réclamation, à mener une enquête après un incident et à prouver votre sérieux lors d’un contrôle. Une réponse citée, avec la source et sa date, est aussi une forme de traçabilité : elle permet de vérifier d’où vient chaque affirmation.

Les journaux contiennent souvent des données personnelles. Fixez donc une durée de conservation, limitez les personnes qui peuvent les consulter et décrivez ce traitement dans votre registre RGPD.

La validation humaine

Plus un outil d’IA a d’effets concrets, plus la validation humaine compte. Un assistant qui répond à des questions internes avec des sources citées présente un risque limité. Un agent qui envoie des courriels à des clients, modifie un dossier ou déclenche un paiement présente un risque bien plus élevé.

Classez les actions par niveau de risque. Les actions de lecture peuvent être automatiques. Les actions d’écriture sont préparées par l’outil et validées par une personne avant exécution. Certaines actions restent purement humaines. La règle « l’outil prépare, l’humain décide », retenue lors de l’audit mené dans les agences MMA, résume bien cette approche.

La validation doit rester réelle. Si une personne doit approuver des centaines de propositions par jour, elle finira par cliquer sans lire. Dimensionnez le volume et montrez à la personne les informations dont elle a besoin pour décider : la proposition, ses sources et ce qu’elle va modifier.

Le RGPD rejoint ce point : une personne a en principe le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques ou l’affecte de manière significative.

RGPD : les principes qui s’appliquent

Dès qu’un outil d’IA traite des données personnelles, le RGPD s’applique, comme pour tout autre traitement. Les principes sont connus. Chaque traitement a une finalité précise et une base légale. On ne collecte que les données nécessaires. Les données sont exactes, conservées pour une durée limitée et protégées. L’entreprise doit pouvoir démontrer qu’elle respecte ces règles.

Concrètement, inscrivez chaque usage de l’IA qui touche des données personnelles dans votre registre des traitements. Informez les personnes concernées. Prévoyez comment répondre à leurs demandes d’accès, de rectification ou d’effacement. Signez avec chaque fournisseur un contrat de sous-traitance qui fixe ce qu’il peut faire des données, et vérifiez où elles sont hébergées et si elles sortent de l’Union européenne.

Pour les traitements susceptibles d’engendrer un risque élevé pour les personnes, une analyse d’impact relative à la protection des données (AIPD) est obligatoire avant la mise en œuvre. Votre délégué à la protection des données vous aidera à déterminer si c’est le cas.

  • Finalité précise et base légale pour chaque usage.
  • Minimisation des données et durée de conservation fixée.
  • Inscription au registre des traitements.
  • Information des personnes et gestion de leurs droits.
  • Contrat de sous-traitance et lieu d’hébergement vérifié.
  • Analyse d’impact quand le risque est élevé.

AI Act : ce qu’il faut savoir

Le règlement européen sur l’intelligence artificielle, appelé AI Act, est entré en vigueur le 1er août 2024. Il classe les systèmes d’IA selon leur niveau de risque. Certaines pratiques sont interdites depuis le 2 février 2025, comme la notation sociale des personnes. Les obligations visant les modèles d’IA à usage général s’appliquent depuis le 2 août 2025. La plupart des autres obligations s’appliquent à partir du 2 août 2026.

Les systèmes dits « à haut risque », par exemple certains outils utilisés pour le recrutement ou l’accès à des services essentiels, sont soumis aux exigences les plus fortes : gestion des risques, documentation, contrôle humain, journaux. Le calendrier de ces obligations peut encore être ajusté par l’Union européenne. Suivez les annonces officielles.

Pour beaucoup d’usages courants, comme un assistant documentaire interne, les exigences sont plus légères. Les obligations de transparence demandent notamment d’informer les personnes qu’elles échangent avec une IA. Le règlement distingue aussi le fournisseur, qui développe le système, et le déployeur, qui l’utilise dans son activité. Les obligations ne sont pas les mêmes.

Ce guide n’est pas un conseil juridique. Pour qualifier vos propres usages, reportez-vous au texte officiel du règlement (UE) 2024/1689, publié au Journal officiel de l’Union européenne, et faites-vous accompagner par un juriste.

Faire vivre la gouvernance

Une gouvernance utile évolue avec les usages. Tenez un inventaire des outils d’IA utilisés dans l’entreprise, avec pour chacun son responsable, les données traitées, le niveau de risque et la date de dernière revue. Revoyez-le régulièrement.

Prévoyez un circuit simple pour proposer un nouvel usage : une fiche courte, examinée par le responsable de l’IA, le délégué à la protection des données et le responsable sécurité. Un circuit trop lourd pousse les équipes à contourner les règles.

Si vous concevez un outil sur mesure, intégrez ces exigences dès la conception. C’est ce que fait OpenOS, le moteur d’Open Intelligence : chaque information garde sa source et sa date, et des services déterministes, c’est-à-dire qui appliquent des règles fixes, vérifient qu’une action est autorisée et justifiée avant de l’exécuter.

Questions fréquemment posées

Qu’est-ce que la gouvernance de l’IA ?

C’est l’ensemble des règles et des rôles qui encadrent l’usage de l’IA dans une organisation : qui décide, quels outils sont autorisés, avec quelles données, quelles vérifications sont obligatoires et ce qui est tracé.

Quand l’AI Act s’applique-t-il ?

Le règlement est entré en vigueur le 1er août 2024. Les pratiques interdites le sont depuis le 2 février 2025, les obligations sur les modèles à usage général s’appliquent depuis le 2 août 2025, et la plupart des autres à partir du 2 août 2026. Le calendrier des systèmes à haut risque peut être ajusté par l’Union européenne.

Mon chatbot interne est-il un système à haut risque ?

Le plus souvent, un assistant documentaire interne n’entre pas dans les catégories à haut risque, qui visent des usages précis comme le recrutement ou l’accès à des services essentiels. Mais tout dépend de l’usage réel. Vérifiez avec le texte officiel et un juriste.

Peut-on utiliser ChatGPT avec des données clients ?

Cela dépend de l’offre utilisée, du contrat, du lieu d’hébergement et de la base légale du traitement. Votre politique d’usage doit dire clairement quels outils peuvent recevoir des données personnelles. En cas de doute, consultez votre délégué à la protection des données avant tout usage.

Faut-il une analyse d’impact (AIPD) pour un projet d’IA ?

Elle est obligatoire quand le traitement est susceptible d’engendrer un risque élevé pour les droits et libertés des personnes. C’est fréquent quand l’IA traite des données sensibles ou à grande échelle, ou évalue des personnes. Le délégué à la protection des données aide à le déterminer.

Que faut-il conserver dans les journaux d’un outil d’IA ?

Qui a fait la demande, la question, la réponse, les sources utilisées, les actions proposées et leur validation ou leur refus. Fixez une durée de conservation et limitez l’accès, car ces journaux contiennent souvent des données personnelles.

Passez de la question à la décision

Le moyen le plus rapide de comprendre Open Intelligence est de le voir répondre sur vos propres documents. Décrivez votre besoin : nous revenons vers vous avec une solution sur mesure et un devis chiffré.