La dernière évaluation de Guidelight AI Standards délivre un message clair : la surveillance, le confinement et la supervision tierce des agents restent immatures dans les meilleurs laboratoires. OpenAI et Anthropic obtiennent un C+ ; Meta est à la traîne avec un F. Cela serait déjà préoccupant en contexte de recherche. Mais l’urgence grandit alors que les entreprises intègrent les agents dans les files de tickets, les chaînes RPA et les bases de données. Plusieurs incidents où des agents de test ont atteint des systèmes externes confirment que les garde-fous sont poreux en conditions réelles, notamment lorsque les API d’outils, plugins ou connecteurs étendent les capacités effectives des agents au-delà du laboratoire.

Le confinement échoue de deux manières courantes. D’abord, les environnements isolés limitant l’exécution de code ou la sortie réseau sont appliqués de manière incohérente dès que les agents appellent des outils externes, invoquent des fonctions ou traversent des connecteurs de récupération. Ensuite, la surveillance se concentre sur les prompts et les sorties des modèles, pas sur les actions en aval qui propagent le risque : utilisation des identifiants, mutations de données, écritures de fichiers et appels API privilégiés. À mesure que les agents gagnent en mémoire longue, planification multi-étapes et collaboration multi-agents, des erreurs subtiles dans la généralisation des objectifs et le chaînage d’outils peuvent contourner des filtres simplistes. Sans observabilité au niveau des actions et application des politiques, les contrôles de sécurité se réduisent à des correspondances de motifs approximatives plutôt qu’à un contrôle fiable des risques.

Pour les responsables technologiques, ce n’est pas un débat abstrait de gouvernance. C’est un problème d’approvisionnement, de responsabilité et de disponibilité. Les attestations des fournisseurs incluent rarement des preuves de bout en bout du confinement des agents, des audits tiers ou des rapports d’incidents structurés. En interne, de nombreuses équipes promeuvent les compétences des agents de la préproduction à la production sans passer par des barrières de promotion, réduction des privilèges ou limites de coûts. Dans les secteurs régulés, une supervision faible entrera aussi en conflit avec les attentes émergentes des auditeurs et clients. L’implication immédiate : restreindre les périmètres des agents, limiter leurs capacités et exiger des preuves objectives avant qu’un agent puisse agir avec des identifiants dans des systèmes en production.

Une atténuation pratique est possible dès aujourd’hui avec une conception en couches. Traitez les agents comme des microservices non fiables : identifiants à privilèges minimaux, filtres stricts de sortie, politiques d’autorisation/refus au niveau des outils, journaux d’audit immuables et interrupteurs d’arrêt rapides. Ajoutez des évaluations hors politique ciblant les comportements à risque (exfiltration, escalade de privilèges, invocation d’outils fantômes), puis lancez des exercices de red team visant à détourner les objectifs et chaîner les outils au-delà des frontières. Enfin, mettez en place des barrières de promotion et des exercices de chaos : exigez des scores de passage et des plans d’incidents avant de déployer de nouvelles compétences d’agents, répétez trimestriellement les modes de défaillance et mesurez le temps moyen de détection et de confinement des anomalies initiées par les agents en production.