Data / IA
La RATP déploie un bot basé sur GPT-4 pour les JOP
Par Thierry Lévy-Abégnoli, publié le 27 août 2024
Pour les Jeux Olympiques et paralympiques, la RATP a développé un bot basé sur une IA générative. Il repose sur l’offre Dialonce Bot Omnicanal et le LLM GPT-4 d’OpenAI. À la clé, des efforts de développement fortement réduits et une agilité accrue.
La RATP prévoit que durant les Jeux Olympiques et Paralympiques, les demandes des usagers auprès du service client doubleront. Dans le même temps, l’entreprise devra publier de nombreuses informations éphémères et déclinées en plusieurs langues. Qui plus est, ce double effort devra être mené alors qu’une partie des agents seront partis en congé, même si certains décaleront leurs vacances pour l’occasion.
Certes, la RATP a déjà déployé un bot capable de répondre à des demandes variées, qui aurait été donc potentiellement en mesure de couvrir ces besoins. Celui-ci était basé sur une technologie classique, avec des intentions préprogrammées et identifiées via un algorithme de type NLU (compréhension en langage naturel). « Mais il ne supportait que le français et il était “apprenant”, donc une fois qu’on lui avait appris quelque chose, on ne pouvait plus le faire revenir en arrière », explique Gaëtan Bultez, responsable relation client à la RATP.
Cette contrainte en particulier est difficilement compatible avec l’arrivée d’informations dynamiques, comme la fermeture d’un pont ou d’une ligne. « Difficile de modifier des arborescences tous les jours, à la fois sur nos supports de communication et sur un selfcare ou un bot », ajoute Gaëtan Bultez.
Début 2024, la décision est donc prise de changer d’outil au profit de l’offre Dialonce Bot Omnicanal. Ce choix est influencé par une première expérience menée en 2019. Les grèves liées au mouvement des gilets jaunes avaient alors déclenché – comme le feront les Jeux Olympiques et Paralympiques – une réduction du nombre d’agents et une explosion des demandes.
Avec l’éditeur Dialonce, la RATP avait alors développé en seulement deux semaines, un callbot qui délivrait des demandes d’attestations de retards et répondait à des questions dont les réponses étaient sur le site, comme des retards de bus. « Déployé en huit jours, il parvenait à traiter 38 % des appels tout en respectant les contraintes de cybersécurité et de RGPD », précise Gaëtan Bultez.
Face à la montée des demandes d’information des usagers pendant les Jeux et la variété de leurs questions dans toutes les langues, la RATP a misé sur l’IA générative pour développer rapidement un bot qui supportera mieux la montée en charge.
Une architecture hybride
Depuis, l’offre de l’éditeur a évolué. En 2024, Dialonce Bot Omnicanal est multilingue et basé sur une architecture hybride.
Concrètement, une première IA détecte l’intention puis oriente son traitement, soit vers une réponse préprogrammée, soit vers un canal de contact humain comme WhatsApp, soit vers une IA générative basée sur le LLM GPT-4 d’OpenAI, hébergé sur Azure.
Par exemple, la première IA considère que la question « comment acheter un abonnement en station ? » relève de l’IA générative. Celle-ci cherche alors la réponse dans des documents indexés ou sur le site web. Puis elle produit une synthèse plus ou moins longue selon le contexte et, le cas échéant, fournit les sources des pages et articles qu’il a lus pour répondre. Finalement, 40 % des demandes sont traitées par des intentions préprogrammées ou orientées vers un contact humain, tandis que 60 % sont prises en charge par l’IA générative.
Un projet basé sur l’indexation et le prompt
Le projet a démarré avec l’identification et la programmation de quelque 150 intentions. Puis le volet IA générative a consisté à indexer le site web et la base de connaissance liés à la gestion des abonnements, aux services RATP ou encore aux informations sur les JO. Soit au total quelque 500 documents dont certains délivrent des informations éphémères. « Si le site et la base de connaissance sont à jour, l’IA et ses réponses aussi », résume Gaëtan Bultez.
Le rafraîchissement de cette indexation est actuellement hebdomadaire et deviendra quotidien durant les Jeux Olympiques. Le développement du bot est également passé par un travail de prompt afin d’éviter les hallucinations, par exemple en lui demandant de ne pas répondre à certains types de questions.
Gaëtan Bultez
Responsable relation client à la RATP
« Si le site et la base de connaissance sont à jour, l’IA et ses réponses aussi»
Des tests générés par le LLM
Qui dit LLM dit difficulté à prédire la qualité des réponses à des questions par nature inconnues. « Il y avait une part de risque. Nous n’étions pas sûrs que ça marcherait car il était impossible de tout tester, si bien que nous étions prêts à stopper le bot en cas de problème », raconte Gaëtan Bultez.
De nombreux collaborateurs ont été invités à tester le bot, dans une démarche ludique. Il s’est ainsi avéré que ceux qui lui demandaient le nom du PDG de la RATP avaient pour réponse Catherine Guillouard au lieu de Jean Castex qui lui a succédé. Ce qui a permis de constater qu’une page web n’était pas à jour.
À noter que l’offre Dialonce Bot Omnicanal permet potentiellement d’automatiser les tests grâce à deux IA génératives travaillant en tandem : l’une génère des jeux de tests, tandis que l’autre vérifie la qualité des réponses. « Ce cahier de recette permet de vérifier la non-régression lors des montées de versions », affirme Adrien Lesage, directeur commercial de Dialonce.
L’éditeur s’est fortement engagé dans le projet, tandis que la RATP n’a mobilisé que deux personnes, sans augmenter ses effectifs. À terme, il est prévu que l’entreprise de transports fasse évoluer les bots en toute autonomie.
Des gains en termes de délais et d’agilité
Les bénéfices se mesurent d’abord en termes d’efforts et de délais de développement. La première version a ainsi été réalisée en seulement un mois. « C’est très court par rapport à une solution classique qui nous aurait demandé de créer un arbre de décision et des scripts basés sur les informations existantes », précise Gaëtan Bultez.
De plus, la solution est bien plus agile car le bot intègre de facto les nouvelles informations, dès que le site et la base de connaissance sont mis à jour.
Vers une IA… plus intelligente
De plus, le bot va lui-même progresser fonctionnellement. « Ce type d’outils n’en est qu’à ces débuts. Si on l’a choisi, c’est aussi parce qu’on s’attend à une évolution des technologies », affirme Gaëtan Bultez.
Parmi les améliorations les plus attendues figure la capacité du bot à poser des questions additionnelles pour mieux comprendre le sujet afin de délivrer des réponses plus concises et précises. Par exemple, lorsqu’on lui demande actuellement comment aller d’un point A à un point B, il répond par un gros pavé détaillant tous les modes de transport. Demain, il incitera l’utilisateur à exprimer ses préférences.
Autre perspective : la possibilité d’analyser les verbatims des questions afin de vérifier la pertinence des réponses et améliorer la base de connaissance.
Le projet en Chiffres
60 % des questions posées au bot sont traitées par l’IA générative
1 mois : Délai de développement de la V1 du bot
150 intentions préprogrammées
500 documents indexés
L’entreprise RATP
Activité : Troisième opérateur mondial de transports urbainsEffectif : 71 000 collaborateursCA 2023 : 6,5 Md€
À LIRE AUSSI :
À LIRE AUSSI :
