Comment un assistant RAG répond à une question

Un modèle de langage peut formuler une réponse convaincante sans disposer de la bonne information. La génération augmentée par la recherche, ou RAG, ajoute une étape de recherche avant la rédaction. Le modèle reçoit des extraits sélectionnés avec la question pour pouvoir s’appuyer sur ces documents.

Partir d’une question concrète

Imaginons un assistant consacré au règlement interne d’une entreprise. Une personne demande combien de jours de congé parental prévoit la politique. Pour répondre, il faut le règlement actuel de cette entreprise, plutôt qu’une politique plausible provenant d’ailleurs.

Trois étapes

• Rechercher : retrouver les passages pertinents dans les documents approuvés, en conservant leur titre, leur version et leur emplacement.

• Fournir le contexte : transmettre la question et les extraits au modèle. Lui demander de citer les sources et de signaler les informations manquantes.

• Générer : rédiger une réponse lisible qui permet au lecteur d’ouvrir les sources et de vérifier les affirmations.

Ce que le RAG ne garantit pas

Les passages sont généralement fournis au moment de répondre, sans réentraîner le modèle à chaque mise à jour documentaire. Mais la recherche peut retrouver un mauvais extrait, ignorer une exception ou présenter une ancienne version. Le modèle peut aussi mal interpréter le contexte.

Un premier exercice

• Choisir cinq documents courts et non sensibles sur un même sujet.

• Rédiger dix questions réalistes, dont deux sans réponse dans les documents.

• Examiner les passages retrouvés avant d’évaluer la formulation finale.

• Vérifier les sources, les affirmations et la reconnaissance des informations manquantes.

Commencer par un périmètre restreint rend les erreurs plus faciles à comprendre. Améliorez la recherche à partir de questions concrètes et laissez toujours au lecteur la possibilité de consulter les preuves.