● Stratégique, l’intégration de l’IA agentique passe de l’humain « dans la boucle » (assistance directe) à l’humain « sur la boucle » (supervision), avec pour horizon final des systèmes « hors de la boucle » capables de décisions fluides.
● Des innovations de recherche, telles que l’algorithme MBTL du MIT, permettent d’optimiser la fiabilité des agents en rendant l’entraînement des agents jusqu’à 50 fois plus efficace.
D’ici 2027, la spécialisation des agents conduira 70% des systèmes multi-agents (MAS) à disposer d’agents ayant des rôles restreints et ciblés. Cela améliorera la précision mais complexifiera la coordination, notamment parce que les MAS comportent un risque d’erreurs cumulées. Selon le cabinet d’analyse Gartner, la mise en place d’une gouvernance solide des agents IA est prioritaire pour les entreprises. Elle doit notamment se faire à travers une supervision claire, une éthique établie et des règles de conformité. Tester et observer ces systèmes est donc prioritaire. Steve Jarrett, Directeur Data & IA d’Orange, le souligne lors d’Orange OpenTech : « Vous avez besoin de très bons outils qui vous permettent de gérer et de contrôler les agents IA à grande échelle et ce, quels que soient les modèles d’IA que vous aurez choisis. » La performance des agents IA dépend de leur autonomie, à laquelle il est pourtant nécessaire de donner des garde-fous. « Il faut comparer des agents IA à des jeunes développeurs qui sont enclins à faire des erreurs mais qui restent très talentueux. » Pour le spécialiste, les agents sont pertinents pour les tâches qui nécessitent de créer un brouillon dans un premier temps et d’avoir une personne qui analyse la qualité de ce brouillon.
Le modèle peut prendre le temps de raisonner sur la manière dont il souhaite accomplir une tâche : il dispose d’une autonomie dans le choix des outils
Pour Deloitte, qui a publié en décembre 2025 un dossier sur l’« Orchestration d’agents IA : un levier stratégique de performance et de valeur », l’autonomie des agents ne pourra être atteinte que progressivement. Pour l’heure, les systèmes dominants sont des systèmes multi-agents dans lesquels les agents fournissent des recommandations et des analyses, tandis que les humains prennent les décisions ou réalisent les actions. La firme estime qu’on devrait rapidement passer du modèle « humains dans la boucle » au modèle « humains sur la boucle », où les MAS gagneront en latitude décisionnelle et où les humains seront principalement dans un rôle de supervision.
Gouvernance et sécurité : encadrer des « talents » digitaux encore faillibles
Pour Steve Jarrett, les agents permettent une percée [breakthrough] parce que « le modèle peut prendre le temps de raisonner sur la manière dont il souhaite accomplir une tâche : il dispose d’une autonomie dans le choix des outils ». En effet, le dernier modèle identifié par Deloitte, « humains hors de la boucle », suppose que les MAS seront entièrement autonomes, capables de prendre des décisions de manière fluide et continue, les humains intervenant pour affiner leurs paramètres ou gérer des cas exceptionnels. L’étude précise cependant : « L’absence de standards opérationnels pour cette main-d’œuvre digitale pourrait entraîner une conception, une configuration et un déploiement fragmentés des agents, augmentant les risques et coûts liés à la performance, ainsi qu’aux enjeux éthiques, cybersécuritaires et réglementaires ».
Optimisation et fiabilité : l’apport stratégique de l’algorithme MBTL
Les risques d’hallucinations, inhérentes aux LLMs, sont démultipliés quand on octroie davantage d’autonomie aux agents IA, alerte Steve Jarrett : « Ils peuvent faire des erreurs et aussi provoquer une consommation excessive d’énergie ou d’argent. On doit se demander à quel moment un humain doit être dans la boucle et identifier les moments où il est approprié d’observer les agents. On appelle cela la co-intelligence. » Cette dernière devra passer par une meilleure gestion de la mémoire partagée entre les agents pour éviter qu’ils ne se contredisent lors de l’exécution de tâches complexes.
Certaines méthodes d’entraînement rendent les agents plus fiables et plus efficaces. Le MIT développe ainsi l’algorithme Model-Based Transfer Learning (MBTL). Son rôle est d’entraîner des modèles d’apprentissage par renforcement de manière plus stratégique. Au lieu d’entraîner l’IA sur chaque tâche individuellement ou sur toutes les tâches à la fois, l’algorithme sélectionne un petit sous-ensemble de tâches critiques qui maximisent les performances globales. La méthode serait de 5 à 50 fois plus efficace que les approches traditionnelles, note le MIT : « Par exemple, avec un gain d’efficacité de 50 fois, l’algorithme MBTL pourrait s’entraîner sur seulement deux tâches et atteindre les mêmes performances qu’une méthode standard qui utilise les données de 100 tâches. »
En savoir plus :
AI agents can talk — orchestration is what makes them work together (en anglais)
Steve Jarrett
