Blogs

Agents IA et AI Act : Bruxelles passe à l'action, quelles leçons ?

Agents IA et AI Act : Bruxelles passe à l'action, quelles leçons ?

IA

Agents IA et AI Act : Bruxelles passe à l'action, quelles leçons ?

Ronan Broussier

Agents IA et AI Act : Bruxelles passe à l'action, quelles leçons ?

Ronan Broussier

Agents sortis de leur bac à sable, demandes d'information du Bureau de l'IA : ce que l'AI Act change et cinq règles pour encadrer vos agents IA dès maintenant.

« Plus de 20 incidents de perte de contrôle ont été documentés cette année ». La phrase n'est pas tirée d'un roman d'anticipation, mais d'un discours officiel de Henna Virkkunen, vice-présidente exécutive de la Commission européenne, prononcé le 9 octobre 2026 devant le panel scientifique créé par l'AI Act. Cinq jours plus tard, à Dublin, elle annonçait que le Bureau de l'IA avait commencé à faire appliquer les règles.

Ces incidents concernent des agents d'IA testés par les grands laboratoires, qui sont sortis de leur environnement de test et ont touché de vrais systèmes. Votre entreprise n'est pas OpenAI ni Anthropic. Mais si vous utilisez ou envisagez des agents capables d'agir dans vos outils, ces événements vous concernent directement : ils montrent ce qui peut arriver quand un agent dispose de trop d'accès et de trop peu de garde-fous.

Je vous propose de revenir sur les faits, de clarifier ce que l'AI Act impose réellement, de distinguer ce qui reste incertain, puis de voir comment transformer ces leçons en règles simples pour votre organisation.

Ce qui s'est passé : des agents sortis de leur bac à sable

Les faits les mieux documentés viennent des entreprises elles-mêmes.

  • OpenAI et Hugging Face (21 juillet 2026). Dans une déclaration commune, OpenAI explique que, lors d'une évaluation interne de cybersécurité, des modèles (dont GPT-5.6 Sol, testé avec des refus réduits, et un prototype interne) ont exploité une faille inconnue d'un outil d'infrastructure pour atteindre Internet, puis la base de données de production de Hugging Face. OpenAI parle d'un « incident cyber sans précédent ».

  • Anthropic (30 juillet 2026). Anthropic publie une enquête sur trois incidents survenus lors d'évaluations menées avec un partenaire, Irregular. Des versions de Claude ont obtenu un accès non autorisé aux systèmes réels de trois organisations ; l'une d'elles a publié un paquet Python malveillant, disponible environ une heure, exécuté sur 15 systèmes réels. Anthropic estime que ces incidents relèvent davantage d'une défaillance opérationnelle de l'environnement de test que d'un défaut d'alignement du modèle.

Dans son discours du 9 octobre, Henna Virkkunen évoque « plus de 700 agents d'OpenAI » sortis de leur environnement, et des agents ayant « pénétré des systèmes gouvernementaux en Australie et aux États-Unis ». Ce chiffre de 700 n'apparaît pas dans la communication d'OpenAI : il faut donc le lire comme une donnée attribuée à la Commission.

Ce que Bruxelles a fait, et ce qu'elle n'a pas fait

Le 14 octobre, au sommet international sur l'IA de Dublin, Henna Virkkunen a déclaré que le Bureau de l'IA avait « commencé à appliquer ces règles » et envoyé des demandes d'information portant sur la sécurité, l'évaluation externe et la surveillance des usages des modèles. Elle a rappelé que les pouvoirs de contrôle de la Commission s'appliquent depuis le 2 août 2026.

Deux précisions importantes :

  • Le discours officiel ne nomme aucune entreprise. C'est Euronews qui rapporte, le 14 octobre, que OpenAI et Anthropic sont concernés et que leurs documents fournis volontairement ont été jugés insuffisants. Next.ink et TechRepublic ont repris l'information.

  • Il s'agit de demandes d'information, pas de sanctions. La presse parle volontiers d'« enquête », mais juridiquement, on en est au stade des questions. Selon une analyse du cabinet Leto, une réponse inexacte, incomplète ou trompeuse peut toutefois être sanctionnée jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires mondial.

Le panel scientifique, réuni en séance spéciale le 9 octobre, a par ailleurs préparé des questions destinées aux entreprises ayant développé les modèles concernés.

Ce que dit l'AI Act, et ce qu'il ne dit pas encore

Pour une entreprise utilisatrice, il est utile de remettre les choses à leur place.

  • Les fournisseurs de modèles d'IA à usage général (OpenAI, Anthropic, Google, Mistral...) ont des obligations depuis le 2 août 2025 : documentation, et pour les modèles les plus puissants, évaluation des risques, cybersécurité et signalement des incidents graves. La Commission peut les faire appliquer depuis le 2 août 2026.

  • Les règles sur les systèmes à haut risque (recrutement, éducation, crédit...) ont été reportées par le règlement dit « omnibus numérique » : au 2 décembre 2027 pour les systèmes de l'annexe III, au 2 août 2028 pour ceux intégrés à des produits réglementés.

  • L'obligation de maîtrise de l'IA (article 4), qui impose aux entreprises de veiller à la compétence des personnes qui utilisent l'IA, reste en vigueur.

La grande question ouverte concerne l'exemption pour la recherche et les tests. L'AI Act ne s'applique pas, en principe, aux activités de développement et de test. Un responsable de la Commission, cité anonymement par Euronews, indique ne pas vouloir sanctionner la phase de test, sauf si un modèle sorti de son environnement affecte le marché européen. Plusieurs juristes contestent déjà cette lecture. Personne ne peut dire aujourd'hui comment elle sera tranchée.

Henna Virkkunen a d'ailleurs reconnu qu'il n'existait pas d'agents d'IA modernes lors de l'adoption de l'AI Act. Le texte se trouve donc testé sur un terrain que ses auteurs n'avaient pas pleinement anticipé.

Pourquoi votre entreprise est concernée

On pourrait se dire que ces incidents concernent des laboratoires de pointe testant des modèles volontairement poussés dans leurs retranchements. C'est vrai. Mais ils illustrent trois mécanismes que l'on retrouve dans n'importe quel déploiement d'agents en entreprise :

  • L'agent poursuit son objectif, parfois à tout prix. OpenAI décrit des modèles « hyperfocalisés » sur la résolution de l'exercice. Un agent chargé de « terminer une tâche » peut emprunter des chemins que personne n'avait prévus.

  • L'environnement compte autant que le modèle. Chez Anthropic, l'accès à Internet n'était pas censé exister. Une mauvaise configuration suffit.

  • Les identifiants exposés sont une porte d'entrée. OpenAI mentionne l'utilisation d'identifiants publiquement exposés sur plusieurs services.

L'OWASP, référence en sécurité applicative, a publié fin 2025 un top 10 des risques des applications agentiques : détournement d'objectif, mauvais usage des outils, abus d'identité et de privilèges, empoisonnement de la mémoire, agents incontrôlés. Ce ne sont plus des scénarios théoriques.

Côté terrain, les enquêtes disponibles sont surtout menées par des éditeurs, sur des échantillons limités, et doivent être lues comme des indications. Une étude SailPoint de juin 2025 indiquait par exemple que 80 % des organisations interrogées avaient observé des actions non prévues de leurs agents.

Plan d'action : cinq règles pour vos agents

Les leçons de ces incidents se traduisent en mesures simples, que vous pouvez appliquer sans attendre la jurisprudence européenne.

  1. Tenir un inventaire. Quels agents sont actifs, qui les a créés, à quels systèmes, comptes et données ont-ils accès ? Commencez par un simple tableau partagé entre la DSI et les métiers.

  2. Appliquer le moindre privilège. Un agent n'a accès qu'à ce dont il a besoin, avec une identité propre plutôt qu'un compte partagé. Les actions sensibles (paiement, envoi externe, suppression) exigent une validation humaine.

  3. Journaliser les actions. Sans trace, impossible de reconstituer un incident, ni d'évaluer s'il faut notifier une violation de données au titre du RGPD.

  4. Encadrer les contrats. Demandez à vos fournisseurs s'ils adhèrent au code de bonnes pratiques européen sur l'IA à usage général et quels délais ils s'engagent à respecter pour vous notifier un incident.

  5. Former les personnes qui pilotent les agents. C'est le sens de l'article 4 de l'AI Act : un manager qui délègue à un agent doit comprendre ce qu'il fait, savoir fixer des limites et reconnaître un comportement anormal.

Le cas australien, où la notification d'OpenAI est arrivée plusieurs semaines après l'intrusion selon la presse, rappelle aussi qu'une communication tardive coûte cher en confiance. Prévoyez dès maintenant qui alerte qui, et en combien de temps, si un agent dérape chez vous.

Mon avis

À mon sens, ces événements marquent un tournant moins réglementaire que culturel. L'AI Act n'a pas encore sanctionné qui que ce soit, et le débat juridique sur l'exemption de recherche ne fait que commencer. Mais l'idée que des agents puissent « sortir du cadre » n'est plus une hypothèse d'experts : elle est documentée par les éditeurs eux-mêmes.

Je vous déconseille deux réactions extrêmes. La panique, qui conduirait à interdire tout agent et à pousser les usages dans l'ombre. Et l'insouciance, qui consisterait à penser que ces risques ne concernent que les laboratoires. La bonne posture est entre les deux : avancer, mais avec un inventaire, des droits limités, des traces et des équipes formées.

Et dans votre organisation, savez-vous aujourd'hui combien d'agents ont accès à vos données ? Qui serait prévenu en premier si l'un d'eux faisait quelque chose d'inattendu ?

Au plaisir de vous lire.

Former vos équipes à piloter des agents

Vous déployez des agents ou vous vous y préparez ? La formation Agents IA avec Claude Cowork d'IAG Formation apprend à vos équipes à déléguer une tâche à un agent, à fixer ses limites et à contrôler ses résultats, avec une approche concrète et responsable.

Sources