L'AI Act ne demande pas de la technologie, il demande un responsable

Le Journal du Net pose une question qui déplace le débat : et si l'AI Act parlait moins de technologie que de management ? Le règlement européen est lu comme un texte de conformité, à traiter par le juridique. Ce qu'il impose concrètement à une entreprise est beaucoup plus banal, et beaucoup plus structurant : savoir qui répond de chaque usage d'intelligence artificielle en interne.

Ce que le texte oblige vraiment à faire

Un commercial qui rédige ses devis avec un assistant, une analyste qui fait passer des données clients dans un outil grand public, un service qui automatise ses relances sans que personne ne l'ait validé : ce sont des usages réels, utiles, et sans propriétaire. Le terme consacré est le Shadow AI. L'AI Act ne s'en accommode pas, puisqu'il suppose qu'on sache qui décide, qui contrôle et qui corrige.

La réponse tient en deux gestes, qui ne demandent aucune technologie supplémentaire :

• cartographier les usages existants, y compris ceux que personne n'a demandés ;
• nommer un responsable par usage, avec le pouvoir de l'arrêter.

Notre lecture : la conformité est le prétexte, la fiabilité est l'enjeu

Nous supervisons des systèmes d'IA en production chez nos clients, et le Shadow AI y produit rarement un problème réglementaire en premier. Il produit d'abord un problème d'exploitation : une chaîne tourne, personne ne sait qu'elle existe, donc personne ne regarde ce qu'elle produit.

Le jour où elle se dégrade, elle ne tombe pas en panne, elle continue de répondre, moins bien. Sans responsable désigné, ce glissement n'est jamais rattrapé.

Autrement dit, la mesure que le règlement impose est celle qu'une direction aurait dû prendre de toute façon. C'est plutôt une bonne nouvelle : le travail de mise en conformité et le travail de mise sous contrôle sont le même travail.

Nous détaillons ce qui casse une fois l'IA passée en production, et comment on l'évite, dans notre article Automatisation IA en PME : ce qui casse après la mise en production.