2023 · Groupe Caisse des Dépôts
Chatbot IA Helpdesk avec RAG
Un agent conversationnel pour permettre aux collaborateurs de résoudre leurs problèmes informatiques en autonomie, sans passer par le helpdesk — l'un des premiers projets d'IA générative menés dans le Groupe.
Le projet
Un chatbot adossé à un RAG sur une base de connaissances indexée dans Azure AI Search, s'appuyant sur les modèles Azure OpenAI. L'objectif : désengorger le support de niveau 1 en aidant les collaborateurs à résoudre eux-mêmes leurs incidents courants.
L'application intégrait aussi un agent connecté au SI : lorsque le bot ne parvenait pas à répondre, il créait automatiquement un incident et l'affectait directement au bon groupe de support.
Un sujet sans cadrage existant
Le sujet étant nouveau dans l'entreprise, il n'existait aucun cadrage de départ. Cela a demandé un vrai travail de recherche pour définir l'architecture, des échanges directs avec Microsoft pour valider l'adéquation des solutions Azure, et de la pédagogie auprès du métier pour clarifier ce que le modèle pouvait — et ne pouvait pas — faire, à une époque où les modèles disponibles (GPT-3.5) restaient limités.
Mes contributions
- Construction de l'ensemble du backend, de bout en bout.
- Phase d'études comparant plusieurs briques RAG : LlamaIndex, LangChain, Faiss, PGVector, etc.
- Réponses enrichies : intégration des images (souvent des captures d'écran) et des pièces jointes issues de la base de connaissance du helpdesk — un vrai plus pour la compréhension de l'utilisateur.
- Pipeline d'évaluation pour garantir la non-régression : génération de jeux de tests, LLM-as-a-judge, etc. — d'abord avec Ragas, puis réimplémenté from scratch.
- Méthode fusion pour optimiser le retrieval : plusieurs reformulations de la question, recherches menées en parallèle, puis fusion et re-ranking des résultats — pour rester robuste face aux formulations imparfaites.
- Connexion au SI pour la création automatique d'incidents.
- Mise à jour de la base de connaissance via un pipeline sur Azure File Share / Blob Storage, avec connexion de l'environnement Azure aux serveurs legacy.
- Casquette DevOps : les services Azure et IA étant nouveaux dans l'entreprise et encore inconnus des équipes de production à l'époque, j'ai pris en charge leur mise en place.