• Exploiter le plein potentiel de ces technologies nécessite de faciliter leur appropriation par les salariés et veiller à ce que leur usage se fasse dans un cadre maîtrisé.
• Chez Orange, un outil d’IA générative sécurisé et basé sur les solutions les plus performantes du marché, illustre cette démarche et transforme les pratiques avec une rapidité d’adoption sans précédent.
Fin 2022, le grand public découvrait, avec le lancement de ChatGPT, agent conversationnel d’Open AI, les IA génératives. La solution suscite l’intérêt, si ce n’est l’engouement, d’une audience qui inclut jusqu’à la sphère économique.
Une solution interne sécurisée pour que les salariés puissent s’acculturer au potentiel des LLM et se les approprier de façon simple et sûre, pour eux et l’entreprise
Les LLM publics font courir un risque sur les données d’entreprise sensibles
Dans un premier temps, cet enthousiasme l’emporte sur les interrogations, légitimes, et les précautions, nécessaires, liées à la mise en œuvre de la technologie. De nombreuses entreprises ne posent pas de restriction à l’usage de ChatGPT. La question du risque potentiel d’exfiltration et de réutilisation de données internes, y compris sensibles, est laissée de côté. Or OpenAI (comme les autres fournisseurs) utilise ces données pour améliorer ses modèles ou en entraîner de nouveaux.
« Dès le premier semestre 2023, Orange a encadré le recours aux IA génératives, en proscrivant notamment leur usage à titre professionnel avec des données de l’entreprise, précise Cédric Goutard, Product Owner Generative AI Toolbox au sein du Groupe. Dans la foulée, nous avons fait le choix de concevoir et déployer une solution interne et sécurisée permettant aux salariés de s’acculturer au potentiel des (LLM) et de se les approprier de façon simple, sereine et sûre. » L’entreprise lance en septembre 2023 cette solution, appelée en interne Dinootoo.
Sécurité et multi-modèles, les piliers de Dinootoo
Les utilisateurs de ce portail peuvent s’y familiariser avec l’univers et le vocabulaire des IA génératives (informations, accès à des formations, etc.) et pratiquer leur usage à travers trois services.
- Dinootoo Chat est un robot conversationnel doté d’un socle de fonctionnalités similaire à celui de ChatGPT, capable de traiter des documents textuels et des images et générer du texte en sortie. Il laisse le choix à l’utilisateur, à ce jour, d’opter pour le modèle le plus adapté à son besoin, parmi ceux d’OpenAI, Google, Anthropic et Mistral.
- Dinootoo Images, comme son nom l’indique, génère des images depuis un en se fondant sur l’IA Dall-E 3 d’OpenAI.
- Enfin, Dinootoo Search se positionne comme une « tête chercheuse» d’informations : l’utilisateur alimente le moteur avec des documents textuels, pose une question, et Search se charge de dénicher et de structurer la réponse (si elle se trouve dans la base documentaire fournie) sous forme de synthèse.
« L’acte fondateur de Dinootoo est la sécurité, souligne Joachim Fléchaire, VP AI Tools & Technology chez Orange. Il a fallu sécuriser la solution de bout en bout d’un point de vue technique mais aussi contractuel, afin de nous assurer que les fournisseurs de modèles et d’infrastructures ne réutilisent pas nos données. L’aspect multi-LLM avec l’intégration de différents modèles propriétaires et Open Source, qui vise à adresser plusieurs cas d’usage, constitue l’autre brin d’ADN de Dinootoo. L’objectif est que chaque filière et métier utilisateur ait à sa disposition un modèle répondant à son besoin. Ce socle multi-LLM permet aussi d’être indépendant du fournisseur et de sensibiliser les utilisateurs sur les coûts économiques et écologiques différents en fonction du modèle utilisé (nous affichons les données). L’expertise d’Orange à développer une solution intégrant plusieurs LLM tout en garantissant une sécurité d’usage et des données a été clé. »
Un outil pour les néophytes et les initiés
L’équipe en charge de Dinootoo l’affine et l’enrichit en continu notamment afin d’améliorer l’expérience utilisateur associée. Un grand écart permanent est en effet nécessaire pour que la solution demeure accessible à la fois par des populations familières avec l’univers des IA et par d’autres non-expertes. Chaque salarié, si peu connaisseur soit-il, dispose, pour simplifier sa prise en main, d’une bibliothèque d’actions génériques (des requêtes , les ‘prompts’ préécrites) qui lui permet de réaliser des opérations complexes avec l’assurance d’obtenir un résultat à la hauteur de son attente. Des parcours d’acculturation et de formation, à l’art du prompting notamment, lui sont par ailleurs proposés.
L’outil a trouvé son public au sein de l’entreprise : 45000 salariés l’ont utilisé au moins une fois et 10 à 11000 sont devenus des utilisateurs réguliers. Ils sollicitent la solution pour une gamme d’usages diversifiés, de l’analyse de documents à l’assistance au développement logiciel, pour de la recherche de bugs dans du code ou la translation d’un langage informatique à un autre, par exemple.
L’intégration en cours de données contextuelles spécifiques à chaque « verticale » (ou domaine d’activité : juridique, achats, RH, etc.) du Groupe viendra prochainement enrichir la solution Dinootoo.
Jusqu’ici, les LLM intégrés à la solution le sont tels quels, sans données Orange autres que celles renseignées par les salariés. Demain, ces modèles seront nourris en amont et de façon pérenne avec des bases documentaires propres à l’entreprise et ses métiers, afin d’améliorer encore leur réponse, au service des utilisateurs.
Live Intelligence : une solution clé en main d’accès à l’IA générative pour les entreprises :
En l’espace de seulement deux ans, les agents conversationnels utilisant l’IA générative ont connu un plébiscite public. Leur usage au sein des entreprises et collectivités s’est également largement développé, parfois de façon chaotique. Mathieu Ducrot, en charge du projet Live Intelligence chez Orange Business, explique le défi que représente l’adoption des LLM (Large Language Models) au sein des entreprises : « La tendance dite de « Shadow AI » soulève de sérieuses questions en matière de gouvernance et de sécurisation des données sensibles, les entreprises s’exposant en l’état à la fuite de ces données sans en maitriser la portée. C’est pour cette raison que nous avons mis au point la solution Live Intelligence, solution multi-LLM dont la vocation est de les accompagner dans leurs besoins opérationnels en leur offrant flexibilité et sécurité. »
Fort de l’expérience Dinootoo et de ses 50.000 utilisateurs, Orange lance une offre en mesure d’accompagner les petites, moyennes et grandes entreprises dans l’adoption de solutions d’IA générative, sans compromis sur la sécurité, portant l’engagement d’un opérateur de confiance. Dans les garanties apportées par Orange, le niveau de confidentialité se traduit notamment par l’hébergement de la solution en Europe.
Live Intelligence, annoncé à Orange OpenTech 2024, apporte une réponse aux besoins opérationnels des petites et moyennes entreprises et aux exigences les plus poussées de clients grands comptes en matière de souveraineté.
Les grands modèles de langue sont des réseaux de neurones utilisant des grands jeux de données et des techniques de deep learning, pour comprendre, résumer, générer et prédire de nouveaux contenus.
Un prompt désigne la commande ou l’instruction écrite transmise à une IA générative afin d’encadrer et d’orienter le résultat du contenu qui sera produit par celle-ci.
Cédric Goutard
