AI Act : cartographier les IA fantômes est une décision de DG, pas un ticket DSI

Le Journal du Net le rappelle : depuis début août, une nouvelle étape de l'AI Act s'applique en Europe. L'article pointe un angle mort largement partagé, celui de l'IA que les entreprises utilisent sans le savoir, dans leur CRM, leur ERP, leurs outils RH, ou via l'usage personnel de leurs salariés. Une étude YouGov pour Microsoft citée dans l'article indique que 61 % des utilisateurs en entreprise recourent à des IA via leurs comptes personnels au moins une fois par semaine.

Ce n'est pas un sujet technique, c'est un sujet de responsabilité

La tentation naturelle est de renvoyer ce chantier vers la DSI. Erreur de niveau. Cartographier les IA qui touchent les données de l'entreprise suppose d'interroger les prestataires, les outils marketing, les usages RH et les pratiques individuelles. Aucune direction technique ne peut décider seule qui a le droit d'utiliser quel outil, ni porter la réponse quand un partenaire commercial posera la question de la gouvernance.

Une charte ne protège plus, une preuve le fait

L'article le formule clairement : la conformité documentaire cède la place à une preuve d'ingénierie. Un dirigeant qui pense avoir réglé le sujet avec une charte d'usage signée par les équipes se trompe de niveau d'exigence. Ce qui compte demain :

• Savoir précisément quelles IA manipulent des données de l'entreprise, y compris celles intégrées par des tiers
• Pouvoir répondre à un partenaire qui demande comment ces systèmes sont supervisés
• Documenter le suivi des incidents, pas seulement l'intention de bien faire

Ce n'est pas la DSI qui signe ces garanties face à un client ou un partenaire. C'est la direction générale, et c'est elle qui doit lancer la cartographie avant qu'on la lui demande.

Sur la manière de superviser concrètement un système IA une fois qu'on sait où il se trouve, notre article pilier Superviser un système IA : concevoir des capteurs qui savent dire non détaille les questions à poser avant de confier un système à qui que ce soit.