Gouvernance des agents IA en entreprise : registre, responsable humain et critères de mise en production

Gouverner les agents IA consiste à savoir lesquels existent dans l'entreprise, à confier chacun à une personne qui en répond, et à fixer les conditions qu'un agent doit remplir avant d'agir seul sur vos outils. Pour une PME, cela tient en un registre, une règle de nomination et une liste de contrôle avant la mise en production. Le plus difficile reste de découvrir les agents que les équipes ont déjà créés sans le dire.

Pourquoi les agents IA demandent-ils une gouvernance à part ?

Un assistant comme ChatGPT ou Claude répond. Un agent agit : il envoie un courriel, classe un document, met à jour une fiche client, déclenche une commande. Nous avons détaillé cette différence et la méthode de déploiement d'un premier agent dans notre article sur l'agent IA en entreprise. Dès qu'un programme agit, les erreurs ne restent plus dans une conversation : elles touchent vos données et vos clients.

Deux évolutions rendent le sujet pressant en 2026. La création d'agents s'est ouverte à tous : un salarié peut aujourd'hui construire un agent dans Copilot, dans ChatGPT ou dans un outil d'automatisation sans passer par le service informatique. Et les agents se branchent de plus en plus facilement sur les logiciels de l'entreprise, avec des droits souvent accordés par défaut, rarement relus ensuite.

Une charte IA encadre ce que font les personnes avec l'IA. Elle dit peu de choses sur des programmes qui travaillent seuls la nuit. C'est ce manque que la gouvernance des agents vient combler.

Comment repérer tous les agents IA dans votre entreprise ?

L'inventaire est la première étape, et la plus révélatrice. Lors des audits SmartForge, nous constatons presque toujours un écart entre les agents connus de la direction et ceux qui tournent réellement.

Interroger chaque service sur ce qui tourne sans lui

La question la plus efficace en entretien est simple : « Qu'est-ce qui se passe automatiquement dans votre service sans que quelqu'un clique ? » Elle fait remonter les scénarios Make ou n8n, les règles de messagerie enrichies par l'IA, les agents Copilot partagés en équipe et les assistants connectés à un agenda ou à un CRM. La question « Utilisez-vous des agents IA ? » en fait remonter beaucoup moins, car peu de collaborateurs emploient ce mot.

Partir des accès plutôt que des outils

Un agent laisse toujours une trace : un compte technique, une clé d'accès à une application, une autorisation donnée à un connecteur. Les consoles d'administration de Microsoft 365, de Google Workspace et des principaux CRM listent les applications autorisées à agir au nom d'un utilisateur. Les passer en revue fait apparaître des agents que personne n'a mentionnés en entretien.

Consigner chaque agent dans un registre

Le registre n'a pas besoin d'un logiciel dédié. Un tableau partagé suffit, avec une ligne par agent et huit informations : son nom et sa fonction, son créateur, son responsable actuel, les outils auxquels il accède, les actions qu'il peut réaliser, les données qu'il manipule, la date de sa dernière revue et son statut (en test, en production, suspendu). Ce registre devient la référence quand un incident survient ou quand un salarié quitte l'entreprise.

Comment attribuer un responsable humain à un agent IA ?

Chaque agent en production doit avoir un responsable nommé. Ce rôle se confie côté métier, à la personne qui connaît le processus et qui sait reconnaître une décision anormale. Le service informatique reste garant des accès et de la sécurité, mais il ne peut pas juger si un devis préparé par un agent est cohérent.

Le responsable a trois missions. Il revoit régulièrement les décisions de l'agent, chaque semaine pendant les premiers mois, puis à un rythme qu'il ajuste. Il peut suspendre l'agent sans demander l'autorisation à quiconque. Il signale toute évolution du processus qui rendrait les consignes de l'agent obsolètes.

Dans nos propres développements chez SmartForge, nous appliquons la même règle à des agents de programmation : un agent écrit le code, un second le relit, et la décision d'intégrer la modification reste celle d'une personne. Cette séparation entre celui qui produit, celui qui contrôle et celui qui décide se transpose bien à un agent métier.

Le cas le plus fréquent de dérive est l'agent orphelin. Son créateur a changé de poste, ses accès fonctionnent toujours, et personne ne regarde plus ce qu'il fait. Le registre permet de détecter ces situations au départ de chaque collaborateur.

Quelles capacités sont obligatoires avant de déployer un agent IA en production ?

Un agent peut passer du test à la production quand il remplit cinq conditions. Nous les vérifions systématiquement avant toute mise en service.

1. Des droits limités au strict nécessaire

L'agent accède uniquement aux outils et aux données dont sa tâche a besoin, avec les droits minimaux. Un agent qui classe des factures lit la boîte de réception et déplace des messages. Il n'a aucune raison de pouvoir supprimer un dossier ni d'écrire au nom de la direction. L'OWASP, organisation de référence en sécurité applicative, formule ce principe sous le nom de « moindre autonomie » : donner à l'agent le minimum d'autonomie, d'outils et de permissions nécessaires.

2. Un journal de ses actions

Chaque action de l'agent laisse une trace consultable : ce qu'il a fait, quand, sur quelle donnée et à partir de quelle instruction. Sans journal, impossible de comprendre une erreur ni de démontrer à un client ce qui s'est passé.

3. Un arrêt possible à tout moment

Le responsable sait comment suspendre l'agent en quelques minutes, et la procédure est écrite. Couper l'accès de l'agent doit être plus simple que de le laisser tourner.

4. Une validation humaine pour les actions irréversibles

Avant la mise en production, on liste les actions que l'agent réalise seul et celles qu'il prépare pour validation. Les envois à l'extérieur de l'entreprise, les engagements financiers et les suppressions restent soumis à une validation humaine. L'agent propose, une personne décide.

5. Un test sur des cas réels

L'agent est testé sur un échantillon de situations réelles, cas difficiles compris, avec un résultat comparé à ce qu'aurait fait une personne. Un agent qui n'a vu que des exemples propres découvrira les exceptions en production.

Quels sont les risques du déploiement d'agents IA autonomes ?

Le risque le plus concret pour une PME tient aux droits trop larges. Le 25 septembre 2026, Microsoft a publié l'analyse d'une attaque baptisée Storm-3168 contre des environnements Azure. Deux identités techniques, utilisées par des applications, ont été compromises. La première a passé environ quinze heures à recenser les ressources. La seconde a enchaîné plus de cent tentatives de suppression de comptes de stockage.

Microsoft relie cette attaque à la montée des attaques orchestrées par des agents, tout en indiquant que ses constats établissent surtout une exécution automatisée. La leçon vaut pour vos propres agents : une identité technique dotée de droits trop larges fait des dégâts en quelques minutes, que l'erreur vienne d'un attaquant ou d'une mauvaise consigne. Les verrous contre la suppression ont d'ailleurs bloqué une partie des destructions, ce qui rejoint les règles de droits limités et d'actions irréversibles soumises à validation.

L'OWASP a publié en décembre 2025 son classement des dix risques des applications à base d'agents. Trois d'entre eux concernent directement une PME qui débute. Le détournement d'objectif survient quand un agent lit un contenu piégé, par exemple un courriel contenant des instructions cachées, et modifie son comportement. L'abus d'identité et de privilèges exploite les accès accordés à l'agent. Les défaillances en cascade apparaissent quand plusieurs agents et automatisations s'enchaînent et qu'une erreur se propage sans être vue.

S'ajoute un risque moins technique : la confiance excessive. Après quelques semaines sans incident, plus personne ne relit le travail de l'agent. C'est précisément à ce moment que la revue du responsable humain compte.

Que dit l'AI Act sur les agents IA ?

Le règlement européen sur l'IA s'applique aux agents selon l'usage qui en est fait. Trois points concernent directement une entreprise qui déploie des agents. L'article 4 impose depuis le 2 février 2025 que les personnes qui utilisent ou supervisent des systèmes d'IA disposent d'un niveau suffisant de maîtrise, ce qui inclut le responsable de chaque agent. L'article 50 impose d'informer une personne qu'elle échange avec une machine quand un agent dialogue directement avec elle. Enfin, un agent qui intervient dans le recrutement ou l'évaluation de personnes relève du haut risque, avec des exigences de surveillance humaine dont l'application a été repoussée à fin 2027 par un accord politique européen de mai 2026.

Nous détaillons le calendrier dans notre article sur l'AI Act et les obligations des entreprises. En pratique, le registre et la nomination d'un responsable par agent constituent déjà une bonne partie de la réponse attendue.

Par où commencer quand on est une PME ?

Le bon ordre est le suivant : l'inventaire d'abord, puis le registre, puis les règles. Écrire une politique de gouvernance avant de savoir quels agents existent produit un document que personne n'applique.

Une PME peut tenir ce chantier en un mois, sans recrutement. La première semaine sert à interroger les services et à passer en revue les accès. La deuxième à remplir le registre et à nommer les responsables. La troisième à appliquer les cinq conditions de mise en production aux agents existants, en suspendant ceux qui n'y satisfont pas. La quatrième à intégrer ces règles à votre charte IA d'entreprise et à former les responsables désignés, par exemple dans le cadre de nos formations IA. Si vous confiez la construction de vos agents à un prestataire, vérifiez que son devis prévoit ces cinq conditions : nous détaillons comment choisir son agence IA.

Notre position est assumée : un agent sans responsable nommé ne devrait pas tourner en production, quel que soit le temps qu'il fait gagner. Un agent utile se reprend facilement avec un responsable. Un agent orphelin finit toujours par coûter plus qu'il n'a rapporté.

Pour une PME qui veut déployer des agents IA sans perdre le contrôle de ses données et de ses outils, la gouvernance commence par savoir quels agents existent et qui en répond. SmartForge, agence IA basée à Lille et organisme de formation certifié Qualiopi, a accompagné plus de 60 entreprises dans leurs projets d'IA. Notre audit IA recense vos processus, vos agents et vos automatisations, puis fixe pour chacun le niveau d'autonomie acceptable, et nous construisons les agents qui manquent avec notre offre d'outil IA sur mesure, partout en France.