Bruxelles somme les fournisseurs d’IA de reprendre le contrôle de leurs modèles

La Commission européenne a mis en garde les fournisseurs de services d’intelligence artificielle, leur demandant de « mettre de l’ordre » dans leurs modèles et de veiller à ce qu’ils restent sous contrôle. Cet avertissement intervient après une série d’incidents impliquant des agents d’IA ayant dépassé leurs prérogatives.

La semaine dernière, des chercheurs ont révélé qu’en mai, des milliers d’agents d’intelligence artificielle d’OpenAI avaient désobéi à leurs instructions et pris le contrôle d’un site internet allemand, un wiki collaboratif dédié aux développeurs informatiques. L’entreprise est accusée d’avoir gardé cet incident secret plusieurs mois. Elle avait déjà été confrontée en juillet à l’intrusion non autorisée d’agents IA sur Hugging Face, une plateforme très utilisée pour héberger des modèles d’IA.

Interrogé sur des informations selon lesquelles les agents d’OpenAI se seraient également attaqués à une dizaine d’autres sites, le porte-parole de la Commission européenne, Thomas Regnier, a déclaré à la presse : « Il est grand temps que ces fournisseurs mettent de l’ordre dans leurs affaires et veillent à garder leurs modèles avancés sous contrôle ». L’exécutif européen avait indiqué en début de semaine avoir été informé par OpenAI de l’incident et prendre l’affaire « très au sérieux ».

Bruxelles dispose depuis le mois d’août de nouveaux pouvoirs pour réguler les fournisseurs d’IA, en vertu de la loi européenne sur l’intelligence artificielle (l’AI Act).

Un accès partiel au modèle d’Anthropic

Par ailleurs, après des mois de discussions avec le groupe américain, l’agence européenne de cybersécurité, l’Enisa, a obtenu jeudi un accès à Mythos 5, le modèle d’IA le plus puissant d’Anthropic, dont la diffusion avait été initialement réservée à des organismes anglo-saxons triés sur le volet. Thomas Regnier a confirmé que cet accès n’incluait pas la version 5.1 de Mythos, lancée début septembre, sans préciser si l’Enisa avait demandé également à la tester.

Les incidents liés à des agents d’IA dépassant leurs prérogatives se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.