Objectifs
Comprendre pourquoi un modèle de langage utilisé seul ne suffit pas pour un usage professionnel, et ce que le RAG vient corriger.
Trois limites naturelles
- Des connaissances figées. Un modèle est entraîné à un moment donné. Un événement ou une règle publiée après son entraînement lui est inconnu.
- Aucun accès à vos données privées. Il ne connaît ni vos procédures internes, ni vos bases clients, ni vos documents contractuels, sauf si on les lui fournit.
- Des réponses inventées. Quand l'information lui manque, il peut produire une réponse fluide mais fausse. Il ne le fait pas par malveillance : il est conçu pour écrire la suite la plus plausible.
Pourquoi c'est un problème de produit
Un conseiller qui répond à un client avec une règle de retour inexacte crée un litige. Dans un usage professionnel, une réponse approximative a un coût : il faut donc pouvoir retrouver la source et vérifier ce qui est affirmé.
Ce que le RAG propose
RAG signifie Retrieval Augmented Generation, soit une génération enrichie par la recherche. L'idée est de fournir au modèle, au moment de répondre, les passages de documents qui concernent la question. Le modèle n'a plus à se souvenir : il lit, sélectionne et reformule.
Point d'attention
Le RAG réduit le risque d'invention, il ne le supprime pas. Un modèle peut encore mal utiliser un bon contexte, et une recherche peut ramener un mauvais passage.
Question de réflexion
Dans votre activité, citez une question que vos collègues ou clients posent souvent et dont la réponse se trouve dans un document interne. Que se passerait-il si un assistant répondait de mémoire ?