Dans un billet précédent, nous avons vu qu'un agent IA personnalisé repose sur trois capacités : connaître, consulter et agir. Commençons par la première : comment fait-on pour que l'IA connaisse réellement votre entreprise ? La réponse tient dans un sigle : le RAG.
Le problème de l'IA générique
Un grand modèle de langage a été entraîné sur une immense quantité de textes publics. Il « sait » énormément de choses générales, mais il ne connaît pas vos prix, vos politiques de retour, vos fiches techniques ni votre foire aux questions interne — autrement dit, il ignore votre base de connaissances, l'ensemble des documents propres à votre entreprise.
Pire : si on lui pose une question dont il ignore la réponse, il peut parfois « inventer » une réponse plausible mais fausse. C'est ce qu'on appelle une hallucination — et c'est évidemment inacceptable quand un client s'attend à une information fiable sur vos produits ou vos services.
Ce que veut dire RAG
RAG est l'acronyme de « Retrieval-Augmented Generation », que l'on peut traduire par « génération augmentée par la récupération ». Le nom paraît technique, mais l'idée est simple : plutôt que de demander au modèle de répondre de mémoire, on lui fournit d'abord les bons documents, puis on lui demande de répondre à partir de ceux-ci.
Concrètement, le processus se déroule en quatre temps :
- On rassemble votre base de connaissances : fiches produits, guides, politiques, questions fréquentes, procédures, etc.
- On découpe ces documents en petits passages et on les indexe dans une base vectorielle, qui permet de retrouver l'information par le sens, et non seulement par mot-clé.
- Quand un client pose une question, on va d'abord récupérer les quelques passages les plus pertinents dans cette base.
- On fournit ces passages au modèle en lui demandant : « Réponds à la question du client en te basant uniquement sur ces informations. »
Le modèle génère alors une réponse ancrée dans les documents réels de votre base de connaissances.
Les avantages concrets
- Les réponses reflètent votre information à jour, pas des généralités.
- On réduit fortement le risque d'hallucination.
- On peut citer la source de la réponse (« selon notre politique de retour… »), ce qui renforce la confiance du client.
- Mettre à jour votre base de connaissances ne demande pas de réentraîner un modèle : il suffit d'ajouter ou de corriger un document.
En résumé, le RAG transforme un assistant qui « connaît le monde » en un assistant qui « connaît votre entreprise ».
Et après ?
Le RAG est idéal pour l'information qui change lentement : politiques, descriptions, procédures. Mais qu'en est-il d'une donnée qui change d'une minute à l'autre, comme la quantité d'un produit en stock ? C'est le sujet d'un autre billet : les outils.
Chez Netcoder, nous concevons des agents IA personnalisés branchés sur votre base de connaissances. Parlons de vos documents.
— Frédéric Brabant