Agent IA en production : sans pilote nommé, vous déléguez une décision à une boîte noire

Le Journal du Net décrit une situation devenue banale : un agent IA en production, déployé par une équipe métier, hébergé par l'IT, validé par personne en particulier. Chacun pense que l'autre a vérifié. Résultat, cet agent traite des données clients, déclenche des actions, modifie des systèmes, sans qu'aucun responsable ne soit désigné pour répondre de son comportement.

Le vrai sujet n'est pas la sécurité, c'est la gouvernance

Un pare-feu se surveille. Un agent IA se pilote. Confondre les deux, c'est traiter une décision d'entreprise comme un problème d'infrastructure. Trois zones échappent aux tests habituels : le prompt système, qui donne ses instructions permanentes à l'agent, les outils connectés qu'il peut actionner, et son comportement lui-même, qui n'est pas reproductible à l'identique d'une exécution à l'autre.

Une mise à jour silencieuse du modèle, un ajout d'outil, une modification du prompt par l'équipe métier : rien de tout cela ne crée systématiquement un ticket. L'agent dérive, et personne ne le voit venir tant qu'aucun nom n'est associé à sa surveillance.

Nommer un pilote, ce n'est pas un chantier technique

Avant le prochain comité de direction, trois questions ne demandent aucune expertise IT. Qui est autorisé à modifier le prompt système d'un agent, et qui en est notifié. Quels systèmes cet agent peut-il atteindre, et cette liste a-t-elle été revue depuis le déploiement initial. L'éditeur a-t-il documenté les limites de reproductibilité de son modèle dans vos conditions réelles, pas seulement en laboratoire.

Sans réponse claire à l'une de ces trois questions, le chantier est identifié. Il consiste à désigner, pour chaque agent, une personne dont le rôle explicite est de répondre de son comportement, pas d'administrer son serveur.

Cette exigence de supervision explicite, avec des capteurs capables de dire non plutôt que de valider par défaut, est développée dans notre article pilier Superviser un système IA : concevoir des capteurs qui savent dire non.