Un assistant IA lit vos documents, et il exécute ce qu'on y a caché

The Decoder rend compte du travail d'un chercheur en sécurité, qui a démontré une faille dans la façon dont Microsoft Copilot traite les documents Word. Le principe tient en une phrase : des instructions dissimulées dans la mise en forme d'un fichier sont lues par l'assistant, qui les exécute, puis les reporte dans les documents qu'il produit à son tour. Un rapport contaminé contamine le suivant. Microsoft a confirmé la faille en mars, et le chercheur compte cent quarante-quatre jours sans correctif.

Ce que la faille révèle vraiment

Le réflexe est de classer l'affaire au rayon cybersécurité et de la renvoyer à la DSI. C'est passer à côté du point. Un assistant branché sur vos documents ne distingue pas le contenu que vous lui soumettez d'une consigne qu'on y a glissée. Il lit tout, et ce qu'il lit peut lui dicter sa conduite.

Cela déplace la surface d'exposition de l'entreprise. Elle n'est plus seulement dans les accès et les mots de passe, elle est dans les fichiers eux-mêmes. Or ces fichiers arrivent de partout : un client, un prestataire, un candidat, une pièce jointe ouverte entre deux réunions.

Cent quarante-quatre jours, et la responsabilité reste chez vous

Le délai est l'information la plus utile pour un dirigeant. Entre le moment où un éditeur reconnaît une faille et celui où il la corrige, il s'écoule un intervalle pendant lequel personne ne vous protège. Attendre le correctif est une position, ce n'est pas une procédure.

Ce que cet intervalle impose tient en trois décisions, et aucune n'est technique.

• Savoir quels documents vos assistants sont autorisés à lire, et lesquels viennent de l'extérieur.
• Nommer qui décide de brancher un assistant sur un espace de fichiers partagé.
• Traiter la vérification de l'origine d'un document comme une étape du processus, pas comme un réflexe laissé à chacun.

C'est le motif que nous retrouvons sur les systèmes que nous supervisons : ce qui casse après la mise en production n'est presque jamais le modèle, c'est ce que personne n'avait pensé à border autour. Nous détaillons ce qui lâche une fois l'IA passée en production dans notre article Automatisation IA en PME : ce qui casse après la mise en production.