IA agentique : quand l’autonomie oblige à réinventer le contrôle

Que se passe-t-il quand l’IA ne se contente plus de répondre, mais commence à agir ? Et surtout, comment garder la main sur des systèmes de plus en plus autonomes, sans déborder des lois, des régulations et des exigences éthiques ? Dans le cadre de l’Agentic AI Symposium organisé par Criteo AI Lab, une table ronde dédiée au sujet a réuni Michel Combot, chef d’innovation technologique et d’IA à la CNIL ; Pagona Tsormpatzoudi, Vice President & Assistant General Counsel, en charge du Privacy, Data Protection, AI Governance chez Mastercard ; Martin Signeux, responsable AI Policy Europe chez OpenAI ; et Alice Schoenauer-Sebag, chercheuse en AI Safety, membre de l’équipe AI Safety chez Cohere.

La discussion s’ouvre sur une tension devenue structurante. D’un côté, l’IA agentique porte une promesse d’efficacité et d’automatisation à grande échelle. De l’autre, elle oblige à repenser la notion même de contrôle : un agent ne produit plus uniquement du contenu, il enchaîne des actions, se branche à des outils, interagit avec des environnements, déclenche des décisions parfois sensibles. Dans ce contexte, l’enjeu n’est plus seulement de « déployer » des modèles, mais de prouver qu’ils restent gouvernables.

C’est précisément l’objet de cette table ronde : dessiner les conditions d’une IA agentique responsable, du cadre juridique (RGPD, AI ACT) aux garde-fous opérationnels.

Le moment où l’IA cesse de « répondre » et commence à « faire »

Le panel s’accorde sur un constat : l’IA agentique ne marque pas seulement une progression technologique, elle change la nature même de la discussion. « Les agents sont un spectre », insiste Martin Signeux. Le terme « agent » raconte moins une entité autonome qu’un changement de degré : les modèles deviennent plus capables, plus endurants, plus opérationnels.

L’exemple le plus parlant tient en une comparaison : « il y a trois ans, [ChatGPT] était juste capable de fournir de l’information ». Aujourd’hui, les modèles « sont capables de prendre des actions pendant plusieurs heures », notamment « en contexte de code pour construire des apps from scratch ». Autrement dit, l’enjeu dépasse désormais la qualité d’une réponse : il faut surveiller un enchaînement d’actions, l’accès à des outils, les décisions intermédiaires et leur cohérence avec l’objectif initial.

L’intention, nouvelle unité de confiance

C’est ici que la responsabilité devient concrète. Quand un agent agit, la question n’est plus seulement « est-ce exact ? », mais « est-ce autorisé ? ». Pagona Tsormpatzoudi résume le risque majeur en une phrase : celui « quand un agent will take actions that the user didn’t really authorize ». Et dans un contexte de commerce et de paiement, cette nuance n’est pas théorique : elle peut se traduire en transaction validée à tort, ou en partage de données inapproprié.

L’enjeu, explique-t-elle, est de capturer une intention vérifiable et suffisamment fine pour distinguer « cherchez quelque chose pour moi », « ajoutez cela à ma carte »… de « allez-y et achetez ». Dès que l’action devient sensible – achat, partage de données –, les contrôles doivent changer de nature : retour d’un « human in the loop », mécanismes d’interruption en temps réel, garde-fous capables de stopper un parcours d’action qui dévie. Elle le reconnaît sans détour : « this is really a journey », et l’écosystème apprend encore.

Sécurité : le risque monte d’un cran quand l’agent se branche aux systèmes

L’autre point de bascule, c’est la sécurité. Parce qu’un agent ne fonctionne pas en vase clos : il se connecte à des environnements, manipule des flux, interagit avec des outils. Dès lors, l’exposition n’est plus seulement « informationnelle », elle devient systémique.

Michel Combot, au nom de la CNIL, rappelle que l’IA agentique s’insère déjà dans un corpus existant : RGPD, AI ACT, et réglementations sectorielles. Pour lui, « nous n’avons pas besoin d’une autre ligne de réglementation ». Mais ce refus d’empiler ne signifie pas une indulgence. Au contraire, il insiste sur la méthode : « nous devons d’abord comprendre avant de régler » et « laisser l’innovation créer peut-être de nouveaux services », tout en maintenant une exigence de contrôle.

Le risque, dit-il, est celui d’un saut de niveau : « la sécurité cyber est un bon exemple », car un agent connecté peut donner accès à « un énorme nombre de données » internes. D’où une règle simple, presque non négociable : si vous déployez une IA agentique, vous devez garantir « au moins le même niveau de sécurité que ce qu’il y avait avant ». Et au cœur de la gouvernance, une phrase revient comme une ligne rouge : « tu dois être en contrôle dans ton système d’IA ».

Mesurer avant de promettre : la responsabilité passe par l’évaluation

Rester « en contrôle » suppose d’abord d’objectiver ce qui peut mal tourner. Alice Schoenauer-Sebag décrit une approche ancrée dans le réel des déploiements : l’équipe travaille sur « la quantification and mitigation of risks of harm stemming from deploying our models ». Le changement principal, selon elle, tient à la nature des risques : quand l’IA passe de la génération de contenu à l’action, l’éventail s’élargit. « Maintenant, nous avons des modèles qui peuvent prendre des actions », avec des risques liés à « la récupération de contenu » et à « la prise d’action des modèles ».

Un point, souvent sous-estimé, surgit aussi dans la discussion : une IA « responsable » ne l’est pas de manière uniforme. « Il y a une chose comme le language gap », explique-t-elle, parce que certaines langues disposent de beaucoup plus de données que d’autres. Les modèles deviennent alors meilleurs « par défaut » dans certains contextes… et potentiellement plus vulnérables dans d’autres. D’où la nécessité de tester en multilingue et en multiculturel, et d’accepter que la sécurité ne tient pas seulement à la puissance du modèle, mais à la couverture réelle des usages.

Tester, stress tester, coopérer : la logique « risk-based » à l’échelle industrielle

Dans ce cadre, la réponse n’est pas un principe général, mais une mécanique : tester, graduer, renforcer au fur et à mesure. Martin Signeux revendique une approche structurée : accompagner l’augmentation des capacités par des garde-fous et des évaluations, notamment sur des sujets universels comme la cybersécurité. Il décrit une gradation des risques (« minimum », « medium », « high », « critical ») et une idée directrice : plus le modèle devient capable, plus il faut ajouter des « guardrails » pour éviter de créer des vulnérabilités.

La discussion insiste aussi sur un point devenu incontournable : la validation ne peut pas rester interne. Les modèles doivent être testés « internes mais aussi externes », par des organisations spécialisées et des instituts de référence, afin d’éviter l’illusion d’un contrôle auto-déclaré. La coopération avec l’écosystème apparaît alors moins comme un supplément, et davantage comme une condition de confiance.

Gouvernance : une affaire d’organisation, pas de département

C’est sans doute la conclusion la plus nette du panel : l’IA agentique n’est pas seulement une question d’ingénierie, ni un sujet réservé au juridique. Elle oblige à une gouvernance collective. « Une approche responsable […] doit être multidisciplinaire, très cross-functionnelle », insiste Alice Schoenauer-Sebag, en citant les parties prenantes qui doivent être autour de la table : « policy », « public policy », « legal », « engineering », « security » et « data ».

En clair, l’IA agentique déplace le centre de gravité : il ne s’agit plus seulement de « déployer un modèle », mais de piloter un système d’action. Et ce pilotage impose de relier ce que l’utilisateur veut, ce que l’agent comprend, ce qu’il exécute, et ce que la loi autorise.

Le vrai sujet : prouver la responsabilité au lieu de l’afficher

Ce panel ne raconte pas une révolution abstraite. Il décrit une bascule très concrète : avec l’IA agentique, la promesse d’autonomie devient une obligation de preuve. Preuve de l’intention, quand l’agent déclenche une action. Preuve de sécurité, quand il se branche aux systèmes. Preuve de robustesse, quand les capacités progressent. Preuve de gouvernance, quand l’organisation doit arbitrer entre innovation et limites.

L’IA agentique n’est pas seulement plus autonome : elle rend visible, et parfois fragile, tout ce qui relie une intention humaine à une action automatisée. C’est là que se joue, dans le réel, le chemin vers une IA agentique responsable.