Le RAG expliqué à ma grand-mère (sans parler de vecteurs)

C’est l’acronyme qui s’est imposé dans tous les comités exécutifs en moins de six mois : RAG. Trois lettres pour Retrieval-Augmented Generation. Derrière ce jargon barbare se cache la seule architecture viable pour faire entrer l’IA générative dans l’entreprise sans risque majeur.

Oubliez le « fine-tuning » coûteux et complexe. Le RAG est à l’IA ce que le livre ouvert est à l’examen : au lieu de demander au modèle d’apprendre par cœur toute votre documentation (ce qu’il fera mal, avec des hallucinations), on lui donne le droit d’aller chercher l’information dans vos documents avant de répondre. Explication clinique.

Le Problème : ChatGPT est un beau parleur amnésique

Les modèles comme GPT-4 sont entraînés sur le web public. Ils savent tout sur la Révolution française ou le code Python, mais ils ne savent rien de vos contrats clients, de votre politique RH ou de vos spécifications techniques de 2024. Si vous leur demandez, ils inventent. C’est l’hallucination.

Jusqu’à récemment, la solution était le fine-tuning : réentraîner le modèle avec vos données. C’est long, cher (plusieurs dizaines de milliers d’euros par itération) et rigide (il faut recommencer à chaque nouvelle donnée).

La Solution RAG : Le cerveau et la bibliothèque

Le RAG sépare le raisonnement (le cerveau/LLM) de la connaissance (la bibliothèque/Vos Données). Voici comment cela fonctionne, étape par étape :

1. La Question : L’utilisateur pose une question (ex: « Quelle est la procédure de remboursement N-1 ? »).
2. La Recherche (Retrieval) : Le système ne va pas voir l’IA tout de suite. Il fouille d’abord dans votre base de données vectorielle (votre bibliothèque indexée par sens, pas par mots-clés) pour trouver les 3 ou 4 paragraphes les plus pertinents.
3. L’Augmentation : Le système colle ces paragraphes dans le prompt, juste avant la question. Cela donne : « En utilisant uniquement les infos ci-dessous [Insérer paragraphes trouvés], réponds à la question : Quelle est la procédure… »
4. La Génération : Le LLM rédige la réponse en synthétisant les documents fournis. Il agit comme un rédacteur expert, pas comme une encyclopédie.

Pourquoi le RAG gagne la bataille architecturale

Fraîcheur des données : Pas besoin de réentraîner l’IA. Vous ajoutez un PDF dans la base, il est accessible immédiatement.

Contrôle des accès : Vous pouvez filtrer les documents lors de l’étape de recherche. Si l’utilisateur est un stagiaire, le système ne récupérera pas les documents « Salaires Comex », et l’IA ne pourra donc pas en parler.

Transparence (Citations) : Contrairement à un ChatGPT standard, un système RAG peut vous dire exactement : « J’ai trouvé cette info dans le document Politique_Voyage_2023.pdf, page 12 ». C’est critique pour l’auditabilité.

L’Implémentation : Ce n’est pas magique

Attention, le RAG n’est pas une baguette magique. La qualité de la réponse dépend à 100% de la qualité de la Recherche. Si votre moteur de recherche interne est mauvais et remonte des documents hors-sujet, l’IA répondra à côté (Garbage In, Garbage Out). C’est là que se joue la bataille technique aujourd’hui : sur la qualité du « chunking » (découpage des textes) et de l’embedding (vectorisation).

En résumé : Ne cherchez pas à créer votre propre modèle. Construisez plutôt le meilleur système d’accès à vos connaissances, et branchez un modèle standard dessus. C’est ça, le RAG.

Pour approfondir

• Le « Zero-Shot » est un mythe : donnez toujours des exemples
• Pourquoi les agents autonomes ne marchent pas en prod
• Demandez à l’IA d’être structurée, pas créative

Reprenons avec l’image de la bibliothèque

Puisque j’ai promis d’expliquer ça à ma grand-mère, filons la métaphore jusqu’au bout, parce qu’elle tient remarquablement bien. Imaginez un étudiant brillant mais qui n’a jamais ouvert vos archives. Il parle bien, il raisonne vite, il a de la culture générale. Si vous lui posez une question sur votre entreprise, il va répondre avec aplomb… en inventant, parce qu’il ne veut pas avouer qu’il ne sait pas. C’est exactement le comportement d’un modèle de langage livré à lui-même.

Le RAG, c’est le moment où vous dites à cet étudiant : « Avant de répondre, va chercher les trois bons dossiers dans l’armoire, lis-les, et réponds uniquement à partir de ce que tu y trouves. » Soudain, l’étudiant brillant devient un expert fiable. Il n’a pas appris vos dossiers par cœur — ce serait long et vite périmé — il a simplement acquis le droit et le réflexe d’aller les consulter au bon moment.

Toute la magie tient dans cette séparation : d’un côté le talent de rédaction et de raisonnement, de l’autre la connaissance de référence, à jour et vérifiable. Le modèle ne stocke pas votre savoir, il l’emprunte à la demande. C’est précisément ce qui rend l’architecture à la fois économique et sûre, là où le réapprentissage complet serait coûteux et figé.

Et le meilleur dans tout ça : quand votre documentation change, vous ne retouchez pas l’étudiant, vous mettez simplement à jour l’armoire. La réponse du lendemain reflète la nouvelle procédure, sans un centime de réentraînement. Cette souplesse est la raison principale pour laquelle le RAG s’est imposé si vite dans les entreprises sérieuses.

Ce que le RAG change vraiment pour une entreprise

Au-delà de l’élégance technique, pourquoi tous les comités de direction en parlent ? Parce que le RAG résout d’un coup trois problèmes qui bloquaient l’adoption de l’IA générative dans un cadre professionnel.

• La confiance. Une réponse RAG peut citer ses sources : « d’après le document X, section 3 ». L’utilisateur vérifie, l’auditeur trace, le juriste dort tranquille. Une IA qui montre d’où elle tire ses affirmations est infiniment plus acceptable qu’une boîte noire qui assène.
• La fraîcheur. La connaissance vit dans une base qu’on alimente en continu. Une nouvelle procédure publiée ce matin est exploitable cet après-midi. Fini le modèle figé dans l’état du monde au moment de son entraînement.
• Le périmètre. On décide exactement quels documents le système a le droit de consulter. Un salarié n’obtient que les réponses tirées des documents auxquels il a droit. La gestion des permissions, cauchemar de tout projet IA, redevient gérable.

Ces trois points expliquent pourquoi je recommande presque systématiquement de commencer par une architecture RAG plutôt que par du réapprentissage de modèle. Non parce que c’est à la mode, mais parce que c’est l’approche qui concilie le mieux la puissance de l’IA et les exigences bien réelles du monde professionnel : traçabilité, actualité, confidentialité.

C’est d’ailleurs l’une des architectures que nous faisons construire concrètement à nos apprenants, parce qu’on ne comprend vraiment le RAG qu’en l’implémentant soi-même. Notre parcours développement logiciel assisté par IA passe par ce chantier, de la première question jusqu’à la réponse sourcée.

Là où le RAG déçoit (et pourquoi ce n’est pas magique)

Je serais malhonnête si je vous vendais le RAG comme une solution sans défaut. J’en vois trop qui s’imaginent qu’il suffit de « brancher ses PDF » pour obtenir un oracle infaillible. La réalité est plus rugueuse, et mieux vaut la connaître avant de promettre monts et merveilles à sa direction.

Premier écueil : la qualité de la recherche. Si le système ramène les mauvais paragraphes, le modèle rédigera une belle réponse… fausse. Le RAG ne corrige pas une recherche défaillante, il l’habille joliment. Toute la difficulté se concentre dans l’étape de récupération, celle dont personne ne parle dans les démos parce qu’elle n’est pas spectaculaire.

Deuxième écueil : le découpage des documents. On ne range pas un dossier de cent pages d’un seul bloc ; on le coupe en morceaux. Mal découpés, ces morceaux perdent leur contexte et deviennent inexploitables. Un tableau coupé en deux, une clause séparée de sa condition, et voilà des réponses incohérentes. Ce travail de préparation est ingrat et décisif.

Troisième écueil : la tentation de tout mettre. Plus on injecte de documents sans tri, plus le système se noie. Une base RAG bien tenue est une base curée, à jour, débarrassée des versions obsolètes qui se contredisent. Là encore, on retombe sur la vérité que je martèle partout : la qualité de la donnée en amont décide de la qualité de la réponse en aval.

J’ai traité ce sujet de fond dans un article dédié, parce qu’il dépasse largement le seul cas du RAG : votre data est sale, et l’IA ne la lavera pas. Aucune architecture, aussi élégante soit-elle, ne rachète une documentation en désordre.

Cas d’usage concrets qui marchent vraiment

Pour sortir de l’abstrait, voici des usages où le RAG fait une différence mesurable, tirés de ce que je vois fonctionner sur le terrain.

• Support interne. Un assistant qui répond aux questions des salariés sur les procédures RH, les notes de frais, les congés, en citant la bonne version du règlement. Gain immédiat : les équipes support arrêtent de répondre cent fois à la même question.
• Service client de premier niveau. Un agent qui puise dans la base de connaissances produit pour répondre, avec la source, et qui escalade proprement vers un humain quand il ne trouve pas. La clé, c’est qu’il sait dire « je ne sais pas » plutôt que d’inventer.
• Aide à la rédaction d’appels d’offres. Retrouver instantanément les bons paragraphes des réponses précédentes, les références clients pertinentes, les éléments de conformité. Un gain de temps considérable sur un exercice chronophage.
• Recherche documentaire technique. Pour les ingénieurs qui doivent naviguer dans des milliers de pages de spécifications, retrouver la bonne clause en une question plutôt qu’en une demi-journée de fouille.

Le point commun de ces usages gagnants : un périmètre documentaire clair, une douleur réelle et répétitive, et une tolérance à la vérification humaine. Là où le RAG déçoit, c’est quand on lui demande d’être un décideur autonome sur des sujets flous. Ce n’est pas son rôle ; son rôle est d’être un bibliothécaire surdoué, pas un oracle.

Ces architectures, nous aidons des organisations entières à les mettre en place proprement. Un aperçu de ce que donnent ces projets est visible dans nos réalisations.

RAG ou fine-tuning : la vraie ligne de partage

On m’oppose souvent le RAG et le fine-tuning comme deux camps ennemis. C’est une fausse opposition. Ce sont deux outils qui répondent à deux questions différentes, et les confondre mène à des choix coûteux.

Le RAG répond à la question « que sait le modèle ». Il injecte de la connaissance factuelle, fraîche et traçable au moment de répondre. C’est ce qu’il vous faut quand votre besoin, c’est que l’IA connaisse vos documents, vos procédures, vos données propres, et qu’elle cite ses sources.

Le fine-tuning, lui, répond à la question « comment se comporte le modèle ». Il ajuste le style, le ton, le format de sortie, la manière de répondre dans un domaine très spécialisé. Il n’injecte pas efficacement du savoir factuel évolutif — c’est justement l’erreur classique que je vois commettre. Vouloir apprendre des faits à un modèle par fine-tuning, c’est graver dans le marbre une information qui changera le mois prochain.

Dans la pratique, les architectures les plus abouties combinent les deux : du fine-tuning léger pour le comportement, du RAG pour la connaissance. Mais pour neuf entreprises sur dix qui débutent, je recommande de commencer uniquement par le RAG. Il résout 80 % des besoins pour une fraction du coût et de la complexité. On ajoute du fine-tuning seulement quand on a identifié un vrai besoin de comportement que le RAG ne couvre pas.

Savoir trancher ce genre d’arbitrage, c’est exactement le type de discernement d’architecture qu’on travaille dans notre formation d’architecte IA : poser le bon diagnostic avant de choisir la solution, plutôt que l’inverse.

Par où commencer concrètement

Si cet article vous donne envie de vous lancer, voici l’ordre que je recommande, du plus important au plus accessoire. Il est l’inverse de l’ordre intuitif, et c’est voulu.

• Choisir un périmètre documentaire étroit et propre. Pas toute la connaissance de l’entreprise, mais un corpus précis, à jour, sur une douleur identifiée. La tentation du « tout, tout de suite » tue plus de projets RAG que n’importe quel défaut technique.
• Soigner le découpage et l’indexation. C’est là que se joue 70 % de la qualité finale. Prenez le temps, testez, ajustez. Cette étape mérite davantage d’attention que le choix du modèle.
• Mettre en place l’évaluation dès le début. Constituez une liste de questions réelles avec leurs bonnes réponses, et mesurez. Sans évaluation, vous naviguez à l’aveugle et vous croirez le système meilleur qu’il n’est.
• Choisir le modèle en dernier. Oui, en dernier. Le modèle est l’élément le plus facile à changer et le moins déterminant pour la qualité de vos réponses. Les débutants commencent par là ; les praticiens le gardent pour la fin.

Cette inversion des priorités résume à elle seule la différence entre une démo bluffante et un système qui tient en production. Le RAG n’est pas difficile à démarrer ; il est exigeant à bien faire. Et bien le faire, ça s’apprend, de préférence sur un vrai projet accompagné.

Le RAG et la pédagogie : une parenthèse qui me tient à cœur

Il y a quelque chose de profondément pédagogique dans l’architecture RAG, et ce n’est pas un hasard si je l’aime tant. Elle incarne une idée simple : on apprend mieux avec un livre ouvert qu’en récitant par cœur. Le modèle qui va chercher l’information au bon moment ressemble à un élève qui a appris à apprendre, plutôt qu’à un perroquet qui a tout mémorisé sans rien comprendre.

Cette distinction entre savoir-par-cœur et savoir-chercher est au cœur des débats actuels sur l’IA à l’école et dans la formation. Faut-il tout mémoriser quand l’information est accessible à la demande ? La réponse n’est évidemment pas « plus besoin d’apprendre » — c’est même le contraire. Comme le modèle RAG, l’humain a besoin d’un socle de raisonnement solide pour savoir quoi chercher et pour juger de la pertinence de ce qu’il trouve. Sans ce socle, l’accès à l’information ne sert à rien.

Le Nexus Think Tank, dont Neowin Academy est partenaire, a justement produit un rapport de fond sur l’IA à l’école qui explore cette tension entre apprentissage actif et consommation passive de réponses. Je le recommande à quiconque s’intéresse à la manière dont ces outils transforment notre rapport au savoir, bien au-delà de la seule technique.

Au fond, comprendre le RAG, c’est aussi comprendre quelque chose sur notre propre façon d’apprendre : l’intelligence n’est pas la quantité de choses mémorisées, c’est la capacité à mobiliser la bonne information au bon moment et à en faire quelque chose de juste.

FAQ

Le RAG est-il réservé aux grandes entreprises ?
Pas du tout. Une TPE avec une documentation claire peut mettre en place un RAG utile sur un périmètre restreint. L’enjeu n’est pas la taille, c’est la qualité et la pertinence du corpus documentaire.

Mes données sont-elles envoyées au modèle public ?
Cela dépend entièrement de l’architecture que vous choisissez. On peut déployer un RAG dans un environnement cloisonné et conforme, où les documents ne sortent pas de votre périmètre maîtrisé. C’est justement un des arbitrages à poser dès le départ.

Combien de temps pour un premier RAG fonctionnel ?
Un prototype sur un petit corpus se monte en quelques jours. Un système robuste, sourcé et évalué demande davantage, l’essentiel du temps allant à la préparation des données et à l’évaluation, pas au code.

Le RAG supprime-t-il totalement les hallucinations ?
Non, il les réduit fortement en ancrant les réponses dans des documents réels. Mais il faut garder une vérification humaine sur les usages sensibles. Aucune architecture ne remplace le jugement sur les décisions qui comptent.

Pour aller plus loin

Le RAG n’est pas un gadget de plus, c’est l’architecture qui fait entrer l’IA générative dans l’entreprise sans perdre la tête. Mais comme toute architecture, il récompense ceux qui le comprennent en profondeur et punit ceux qui le bâclent. La meilleure façon de le maîtriser reste de le construire soi-même, encadré par des gens qui l’ont déjà fait.

Chez Neowin Academy, organisme certifié Qualiopi, c’est exactement ce que nous faisons. Explorez nos parcours en formation IA à Paris ou en formation IA à Lyon, posez vos questions via la FAQ, et quand vous voulez passer à l’action, déposez votre candidature. Le RAG, ça se comprend en une métaphore, mais ça se maîtrise en le pratiquant.

Les idées reçues qu’il faut tordre le cou

Terminons par un petit nettoyage des croyances qui circulent dans les réunions et qui font perdre un temps fou. La première : « plus le modèle est gros, meilleures seront les réponses ». Faux. Avec un RAG bien conçu, un modèle moyen alimenté par les bons documents bat un énorme modèle livré à lui-même. La connaissance pertinente compte davantage que la puissance brute.

Deuxième idée reçue : « le RAG, c’est juste un chatbot sur mes PDF ». Réducteur. Le RAG est un principe d’architecture — ancrer une génération dans une récupération d’information fiable — qui s’applique bien au-delà du chatbot : génération de rapports, aide à la décision, assistance à la rédaction, classification documentaire. Le réduire à un robot de discussion, c’est passer à côté de l’essentiel.

Troisième idée reçue : « une fois construit, ça tourne tout seul ». Jamais. Une base de connaissances vit : documents à ajouter, versions obsolètes à retirer, questions mal traitées à analyser. Un RAG abandonné se dégrade silencieusement, parce que le monde qu’il décrit, lui, continue de changer. L’entretien n’est pas optionnel, il fait partie du projet.

Garder ces trois vérités en tête vous évitera les déconvenues les plus courantes et vous fera gagner la crédibilité qui manque à tant de projets lancés sur un malentendu. Le RAG récompense la lucidité plus que l’enthousiasme.

Et si je devais résumer tout cela à ma grand-mère en une phrase, je lui dirais ceci : le RAG, c’est apprendre à une machine très bavarde à se taire tant qu’elle n’a pas vérifié dans les bons papiers. Ça n’a l’air de rien, mais c’est ce petit réflexe de prudence qui transforme un beau parleur en conseiller fiable. Toute la valeur de l’IA en entreprise tient, au fond, dans cette discipline de l’ancrage : ne jamais répondre sans source, ne jamais confondre l’aisance et l’exactitude.