Le vademecum de l’AI Act tiré de notre échange avec Maître Battistella
L’Europe a été la première grande zone économique à se doter d’un cadre cohérent sur l’usage de l’intelligence artificielle, et pour beaucoup d’entreprises, ce choix sonne encore comme un coût. Lors de notre dernier live avec l’avocat Andrea Battistella, nous avons essayé de le regarder sous un autre angle, et l’AI Act s’est surtout révélé être une carte : il indique à l’avance où se cachent les problèmes que tout projet d’IA agentique finit, tôt ou tard, par rencontrer. Voici ce que nous en avons retenu.
Le sursis n’est pas une pause
Cet été, le Digital Omnibus a repoussé les échéances les plus exigeantes de l’AI Act : les obligations relatives aux systèmes à haut risque s’appliqueront à partir du 2 décembre 2027 et, pour ceux intégrés à des produits déjà réglementés, à partir du 2 août 2028.
Beaucoup y ont vu une pause, mais ce n’est pas tout à fait le cas. Nous avons demandé à Maître Battistella ce qu’il en pensait, et il nous a invités à lire ce report dans l’autre sens : l’interdiction des systèmes à risque inacceptable, l’obligation de former les personnes qui utilisent l’IA en entreprise et l’article 50 sur la transparence des contenus générés sont déjà en vigueur, et surtout, l’architecture du texte ne changera pas. Ceux qui mettront ces mois à profit pour bâtir une gouvernance de l’IA aborderont les échéances avec des processus rodés et des fournisseurs choisis avec discernement, tandis que ceux qui attendront risquent de devoir démonter des solutions adoptées dans l’urgence. L’Italie a d’ailleurs déjà montré la voie : avec la loi 132/2025, elle a été le premier pays européen à se doter d’un cadre national complet sur l’intelligence artificielle.
Le premier risque est déjà chez vous
Avant de penser aux agents, mieux vaut regarder ce qui se passe aujourd’hui dans les navigateurs des collaborateurs. Le Stanford AI Index 2026 relève que 88 % des organisations utilisent l’IA dans au moins une fonction de l’entreprise, et une bonne partie de cet usage passe par des chatbots gratuits dans lesquels atterrissent contrats, reportings et fichiers clients sans que personne ne s’en aperçoive. Maître Battistella l’a résumé d’une phrase qui vaut pour tout le numérique, « rien n’est gratuit » : un service gratuit se paie en données, et un contrat assorti d’une clause de confidentialité, collé dans un chat externe, devient de fait un contrat partagé avec un tiers.
Le problème tient rarement à la mauvaise foi, presque toujours à l’absence de règles claires. Un recensement des outils utilisés et une politique interne précisant ce qui peut entrer dans ces systèmes et ce qui doit en rester exclu coûtent peu et referment la brèche la plus courante.
Le risque est dans le processus, pas dans l’outil
L’erreur la plus fréquente, lorsqu’on évalue une solution d’IA, consiste à se demander si le logiciel est « sûr » dans l’absolu. L’AI Act raisonne autrement : un même système peut présenter un risque faible dans une entreprise et un risque élevé dans une autre, car ce qui fait la différence, c’est le processus dans lequel il s’insère, les données qu’il traite et les personnes sur lesquelles retombent ses décisions. Un agent qui trie les tickets du support et un autre qui sélectionne des CV peuvent tourner sur la même plateforme, mais le second touche à des droits fondamentaux et entraîne des obligations bien différentes.
C’est pourquoi le point de départ ne devrait pas être le catalogue des fournisseurs, mais la liste des processus que l’on souhaite confier aux agents, examinés un par un sous cet angle. Une précision utile : le haut risque n’interdit rien, il exige simplement davantage d’attention et une supervision humaine bien conçue.
Un agent incapable de s’expliquer n’est pas prêt pour la production
Comme nous l’avons vu dans notre article précédent, « IA locale : où doivent vivre les données quand c’est un agent qui les traite ? », selon Stanford, moins d’une organisation sur dix a déployé l’IA à pleine échelle, ne serait-ce que dans une seule fonction, et l’adoption des agents en entreprise reste à un seul chiffre. Autrement dit, la plupart des choix de plateforme restent à faire, et c’est le bon moment pour exiger ce que l’on tient trop souvent pour acquis : la possibilité de reconstituer, même un an plus tard, comment un agent a pris une décision donnée, avec quelles données et à travers quels systèmes.
Pendant le live, nous l’avons comparé aux comptes rendus d’une réunion, qui expliquent pourquoi une décision a été prise, alors que les simples logs ne se consultent qu’une fois que quelque chose a déjà mal tourné. Il en va de même pour le human-in-the-loop, qui n’a rien à voir avec le fait de « jouer les baby-sitters pour les agents » : il touche à la responsabilité, et fixe le seuil d’impact au-delà duquel une personne doit donner son feu vert et en répondre.
La souveraineté est une question de continuité d’activité
Nous avons aussi abordé le sujet, assez brûlant, de la souveraineté numérique. Vous vous souvenez de cet été, quand l’accès à un modèle frontière américain a été suspendu pendant quelques semaines en raison de contrôles à l’exportation, ensuite levés ? Il y a dix ans, une telle nouvelle concernant un tableur aurait fait scandale, alors qu’aujourd’hui elle est passée presque inaperçue. Pourtant, une entreprise qui a lié ses processus à un modèle unique peut se retrouver à l’arrêt du jour au lendemain.
Choisir entre hyperscaler, cloud souverain et on-premise relève donc aussi de la continuité d’activité, et pas seulement de la conformité. Et des coûts : entre un modèle frontière et un modèle de milieu de gamme, l’écart peut atteindre deux ordres de grandeur, de quoi faire abandonner des projets qui fonctionnaient parfaitement mais ne tenaient pas à l’échelle. Le choix le plus visionnaire est une plateforme qui permet de changer l’endroit où tournent les données et les modèles sans tout reconstruire.
Une démo n’est pas une preuve de fiabilité
Maître Battistella nous a aussi parlé d’un expert en robotique pour qui la bonne question n’est pas de savoir si un robot sait accomplir une tâche, mais combien de fois il se trompe : sur une ligne qui produit mille pièces à l’heure, une erreur dans 15 % des cas, ce sont 150 pièces à jeter. Les agents fonctionnent de la même façon. Stanford constate un bond remarquable, d’environ 12 % à environ 66 % de réussite sur des tâches informatiques réelles en deux ans, mais il reste un échec toutes les trois tentatives, et un proof of concept brillant ne dit rien de la manière dont le système se comportera après six mois en production.
Mieux vaut donc décider en amont de la marge d’erreur acceptable pour chaque processus, et évaluer les fournisseurs sur ce critère, contrat et accord de traitement des données compris.
Cinq questions à poser à un fournisseur
Pour conclure notre intervention sur une note immédiatement exploitable, nous avons rassemblé les cinq questions qui, d’après notre expérience des systèmes agentiques, permettent de comprendre rapidement si une plateforme est conçue pour durer ou seulement pour démarrer vite.
- Où résident physiquement les données et la mémoire des agents, et sous quelle juridiction ? Un serveur en Europe ne suffit pas si le fournisseur relève d’un droit extra-européen.
- Puis-je exécuter les modèles on-premise, si un jour c’était nécessaire ? Même si ce n’est pas une priorité aujourd’hui, c’est l’option qui garde toutes les autres ouvertes.
- Comment prouver, en cas de contrôle, qu’une décision de l’agent est reconstituable ? La réponse doit s’appuyer sur des exemples concrets, pas sur des assurances génériques.
- Le fournisseur distingue-t-il vraiment un chatbot, qui répond, d’un agent, qui agit sur les systèmes ? Celui qui les traite comme une seule et même chose sous-estime la complexité du projet.
- La plateforme est-elle prête pour les obligations du haut risque ? Une solution qui met des agents en production en soixante jours n’a d’intérêt que si elle ne doit pas être refaite au premier contrôle.
Répondre à ces questions exige des compétences techniques, organisationnelles et juridiques à la fois, ce que Maître Battistella a appelé la culture numérique, et c’est précisément sur ce terrain que le cadre européen cesse d’être une contrainte pour devenir un avantage concurrentiel.
Merci à Maître Battistella et à toutes les personnes qui nous ont suivis et ont participé, et n’hésitez pas à nous écrire pour toute question sur le sujet. Nous vous attendons au prochain rendez-vous : suivez-nous sur LinkedIn pour ne pas le manquer.