Socle conceptuel · Alimenter

RAG ou Full Context ?

Les IA peuvent lire de plus en plus de texte d'un coup. Faut-il pour autant tout leur donner ? Cette page compare les deux méthodes, le document entier et les extraits choisis : leur prix, leur qualité, et la façon de les combiner.

Deux méthodes

Tout donner à lire, ou choisir les bons passages

Les deux méthodes ont le même but : faire répondre l'IA d'après vos documents. Mais elles ne coûtent pas le même prix, et ne demandent pas le même effort de lecture au modèle.

FULL CONTEXT

Tout poser sur le bureau

On donne à lire le document entier. C'est simple à faire, mais on paie aussi pour les parties qui ne servent pas.

Sys
Document entier
Q
reste

La fenêtre est surtout remplie de texte qui ne sert pas à la question.

RAG

Ne poser que l'essentiel

On retrouve les meilleurs extraits dans la base où les documents sont rangés, et on ne donne à lire que ces passages.

Sys
3 à 5 extraits
Q
place pour répondre

Peu de texte, mais le bon. Il reste beaucoup de place pour la réponse.

La limite du document entier

Le piège du milieu qui se perd

Quand le texte à lire est long, le modèle retient bien le début et la fin, et moins bien le milieu. Les spécialistes appellent cela « lost in the middle », perdu au milieu.

⚠ Une grande fenêtre n'est pas toujours bien lue
Ce que le modèle retient, selon l'endroit du texte forte moyenne faible 95 % 90 % ~ 50 % le milieu se perd début milieu fin

Dans un très long document, une information importante placée au milieu est plus souvent oubliée. Le RAG réduit beaucoup ce risque : il ne donne à lire que l'essentiel.

Comparaison

8 critères de choix

CritèreFull ContextRAGLe meilleur
Prix de chaque question Élevé avec un gros document Faible : peu de texte à lire RAG
Précision sur de longs textes Le milieu risque de se perdre Très bonne sur une question précise RAG
Rapidité de la réponse (latence) Plus lente Plus rapide RAG
Nombre de documents Limité par la fenêtre Presque sans limite RAG
Mise en place Très simple Des outils à installer Full Context
Vue d'ensemble d'un document Excellente Partielle : par extraits Full Context
Mise à jour des documents À la main Automatique, quand on ajoute un document RAG
Confidentialité Tout le document est envoyé Seulement des extraits RAG

Le RAG l'emporte sur 6 critères, le Full Context sur 2.

Le prix

Le prix compte quand on s'en sert beaucoup

Avec quelques questions par jour, les deux méthodes se valent. Avec des milliers, le choix devient une question d'argent. Le graphique est resserré pour tenir dans la page : chaque palier vaut dix fois le précédent.

10 000 $ 1 000 $ 100 $ 10 $ 1 $ 0,10 $ 10 100 1 000 10 000 100 K Questions par jour 1 000 questions par jour 300 $/jour 50 $/jour 10 $/jour Full Context Les deux RAG Coût par jour selon le nombre de questions

Full Context

~ 0,30 $

par question (200 pages données à lire)

À chaque question, vous payez pour tout le document, même quand 90 % du texte ne sert pas.

RAG

~ 0,01 $

par question (3 à 5 extraits)

Le prix reste bas : seuls les passages utiles sont envoyés au modèle.

Les deux combinés (hybride)

~ 0,05 $

le RAG, puis le document entier si besoin

Le RAG trouve les bons documents ; on ne donne un document entier à lire que lorsque c'est utile.

Ordre de grandeur : à 1 000 questions par jour, le document entier coûte 30 fois plus cher que le RAG. Au-delà de quelques milliers de questions, l'écart décide si le projet est tenable ou non.

Pour choisir

Choisir en suivant le chemin

Quatre questions, trois réponses possibles. Suivez les branches selon votre cas.

Q1 Combien de documents ? peu (1 à 5) plus de 10 Q2 Vue d'ensemble ? Q4 Plusieurs à croiser ? oui non oui non → FULL CONTEXT vue d'ensemble Q3 Beaucoup de questions ? → LES DEUX RAG, puis entier → RAG recherche précise rarement souvent → FULL CONTEXT peu de questions → RAG peu de texte à payer Full Context RAG Les deux Question

Cas types

Approche recommandée par cas

Résumer un rapport de 80 pages

Il faut garder la cohérence de l'ensemble, et les liens entre les parties.

Full Context

Trouver une clause dans 500 contrats

Une recherche précise dans un très grand nombre de documents.

RAG

Comparer 3 bilans financiers

Plusieurs documents à croiser, et une analyse détaillée.

Les deux

Assistant pour les questions fréquentes en interne

Beaucoup de questions chaque jour, souvent les mêmes.

RAG

Réécrire un document technique

Il faut voir le document entier.

Full Context

Réponse à appel d'offres

Le RAG pour retrouver les références, le document entier pour comparer.

Les deux

Combiner les deux

Les deux méthodes combinées, en 5 étapes

Dans la plupart des cas, le mieux est de combiner : le RAG pour trier, le document entier pour approfondir. C'est l'approche hybride.

LES DEUX MÉTHODES COMBINÉES 01 Le RAG trie 2 à 5 documents utiles 02 La place ? entier, ou extraits ? 03 Donner à lire extraits, ou tout 04 Comparer tableau, comparaison 05 Répondre avec les sources RÉP + sources le tri le choix, puis la lecture l'analyse, puis la réponse

À vous de jouer

Quiz : RAG, Full Context ou Hybride ?

Cinq cas pris dans la vie d'une collectivité, un à la fois. Répondez, lisez l'explication, passez au suivant. « Hybride » veut dire : les deux méthodes combinées.

Question 1/5
★ ★ ★ ★ ★
Cas 1 / 5

Compte rendu de conseil municipal

Rédiger un compte rendu de 30 à 120 pages à partir de l'enregistrement de trois heures de séance, mis par écrit, en y ajoutant des délibérations passées et des informations techniques de référence.

Hybride. Le texte de la séance (30 à 120 pages) doit être lu en entier, pour garder le fil des échanges : c'est du Full Context.

Mais pour l'enrichir (délibérations antérieures, chiffres, articles de loi), il faut aller chercher des passages précis dans vos autres documents : c'est du RAG.

Aucune des deux méthodes ne suffit seule.

Cas 2 / 5

Rédiger une délibération

Rédiger une nouvelle délibération en s'appuyant sur des délibérations semblables déjà votées, et sur les éléments du dossier (cadre légal, chiffres).

RAG. La délibération à écrire est courte (1 à 3 pages). Il ne s'agit pas de lire un document entier, mais de retrouver les bonnes délibérations passées et les bons articles parmi un grand nombre de documents.

Le RAG ramène les passages utiles, qu'on donne à lire avec les éléments du dossier. Tout donner serait coûteux et inutile : on n'a pas besoin de relire des délibérations entières.

Cas 3 / 5

Répondre au courrier d'un habitant

Un habitant écrit un courrier court, avec ses mots à lui. La réponse doit s'appuyer sur les procédures, les règlements, les questions fréquentes et l'historique de son dossier.

RAG. Un habitant n'emploie jamais les mots de l'administration : il écrit « mes papiers », pas « pièces justificatives ». Le RAG cherche par le sens : il fait le lien.

Les documents internes sont nombreux, mais la réponse à écrire est courte et précise. Le RAG est indispensable, le document entier inutile.

Cas 4 / 5

Analyser une réponse à appel d'offres

Un fournisseur a rendu une réponse de 50 à 200 pages. Vous savez ce que vous y cherchez (le prix, la méthode, les garanties, les références) pour la comparer aux autres réponses.

RAG. Quand on sait précisément ce qu'on cherche (un prix, une garantie, une méthode), le RAG ramène ces passages, sans qu'on paie pour tout le document.

Tout donner à lire serait du gaspillage : 90 % de la réponse du fournisseur ne sert pas à la comparaison. Le RAG fait le tri.

Cas 5 / 5

Corriger un appel d'offres en cours de rédaction

Un projet d'appel d'offres de 30 à 80 pages est à relire : y a-t-il des doublons, des articles qui se contredisent, des renvois vers le mauvais article, des seuils ou des dates qui ne s'accordent pas ?

Full Context. Un seul document, de taille raisonnable, dont on veut vérifier la cohérence. Le modèle doit tout voir en même temps pour repérer deux articles éloignés qui se contredisent, ou un renvoi qui ne correspond plus.

Le RAG, lui, ne lit que des extraits : aucun extrait pris seul ne montre que le seuil de l'article 7 contredit celui de l'article 23.

★ ★ ★ ★ ★

Les règles

6 principes de mise en œuvre

Mesurer avant de choisir

La taille de vos documents, le nombre de questions par jour, le budget que vous vous fixez. Sans ces trois chiffres, on choisit au hasard.

Le document entier pour comprendre

À préférer quand il faut une vue d'ensemble du document : le résumer, le réécrire, le contrôler.

Le RAG pour trouver

Le meilleur choix pour chercher une information précise parmi beaucoup de documents : questions fréquentes, assistance, recherche de références.

Essayer sur de vraies questions

Comparez les deux méthodes sur une vingtaine de questions types avant d'arrêter votre choix.

Combiner les deux, par défaut

Le RAG trie d'abord. On ne donne un document entier à lire que si la tâche le demande et que le budget le permet.

Rester souple

Les fenêtres de contexte grandissent et les prix baissent. Gardez une organisation que vous pourrez faire évoluer.

À retenir

La réponse courte

Ce n'est pas RAG ou Full Context. Le plus souvent, c'est RAG et Full Context : le premier pour retrouver l'information parmi beaucoup de documents, le second pour analyser un document à fond quand cela en vaut la peine.

En pratique : commencez avec le RAG seul. Combinez les deux dès qu'un cas demande la vue d'ensemble d'un document. Et gardez un œil sur la dépense totale.