Tout poser sur le bureau
On donne à lire le document entier. C'est simple à faire, mais on paie aussi pour les parties qui ne servent pas.
Socle conceptuel · Alimenter
Les IA peuvent lire de plus en plus de texte d'un coup. Faut-il pour autant tout leur donner ? Cette page compare les deux méthodes, le document entier et les extraits choisis : leur prix, leur qualité, et la façon de les combiner.
Deux méthodes
Les deux méthodes ont le même but : faire répondre l'IA d'après vos documents. Mais elles ne coûtent pas le même prix, et ne demandent pas le même effort de lecture au modèle.
On donne à lire le document entier. C'est simple à faire, mais on paie aussi pour les parties qui ne servent pas.
On retrouve les meilleurs extraits dans la base où les documents sont rangés, et on ne donne à lire que ces passages.
La limite du document entier
Quand le texte à lire est long, le modèle retient bien le début et la fin, et moins bien le milieu. Les spécialistes appellent cela « lost in the middle », perdu au milieu.
Dans un très long document, une information importante placée au milieu est plus souvent oubliée. Le RAG réduit beaucoup ce risque : il ne donne à lire que l'essentiel.
Comparaison
| Critère | Full Context | RAG | Le meilleur |
|---|---|---|---|
| Prix de chaque question | Élevé avec un gros document | Faible : peu de texte à lire | RAG |
| Précision sur de longs textes | Le milieu risque de se perdre | Très bonne sur une question précise | RAG |
| Rapidité de la réponse (latence) | Plus lente | Plus rapide | RAG |
| Nombre de documents | Limité par la fenêtre | Presque sans limite | RAG |
| Mise en place | Très simple | Des outils à installer | Full Context |
| Vue d'ensemble d'un document | Excellente | Partielle : par extraits | Full Context |
| Mise à jour des documents | À la main | Automatique, quand on ajoute un document | RAG |
| Confidentialité | Tout le document est envoyé | Seulement des extraits | RAG |
Le RAG l'emporte sur 6 critères, le Full Context sur 2.
Le prix
Avec quelques questions par jour, les deux méthodes se valent. Avec des milliers, le choix devient une question d'argent. Le graphique est resserré pour tenir dans la page : chaque palier vaut dix fois le précédent.
Full Context
~ 0,30 $
par question (200 pages données à lire)
À chaque question, vous payez pour tout le document, même quand 90 % du texte ne sert pas.
RAG
~ 0,01 $
par question (3 à 5 extraits)
Le prix reste bas : seuls les passages utiles sont envoyés au modèle.
Les deux combinés (hybride)
~ 0,05 $
le RAG, puis le document entier si besoin
Le RAG trouve les bons documents ; on ne donne un document entier à lire que lorsque c'est utile.
Ordre de grandeur : à 1 000 questions par jour, le document entier coûte 30 fois plus cher que le RAG. Au-delà de quelques milliers de questions, l'écart décide si le projet est tenable ou non.
Pour choisir
Quatre questions, trois réponses possibles. Suivez les branches selon votre cas.
Cas types
Il faut garder la cohérence de l'ensemble, et les liens entre les parties.
Full ContextUne recherche précise dans un très grand nombre de documents.
RAGPlusieurs documents à croiser, et une analyse détaillée.
Les deuxBeaucoup de questions chaque jour, souvent les mêmes.
RAGIl faut voir le document entier.
Full ContextLe RAG pour retrouver les références, le document entier pour comparer.
Les deuxCombiner les deux
Dans la plupart des cas, le mieux est de combiner : le RAG pour trier, le document entier pour approfondir. C'est l'approche hybride.
À vous de jouer
Cinq cas pris dans la vie d'une collectivité, un à la fois. Répondez, lisez l'explication, passez au suivant. « Hybride » veut dire : les deux méthodes combinées.
Rédiger un compte rendu de 30 à 120 pages à partir de l'enregistrement de trois heures de séance, mis par écrit, en y ajoutant des délibérations passées et des informations techniques de référence.
Hybride. Le texte de la séance (30 à 120 pages) doit être lu en entier, pour garder le fil des échanges : c'est du Full Context.
Mais pour l'enrichir (délibérations antérieures, chiffres, articles de loi), il faut aller chercher des passages précis dans vos autres documents : c'est du RAG.
Aucune des deux méthodes ne suffit seule.
Rédiger une nouvelle délibération en s'appuyant sur des délibérations semblables déjà votées, et sur les éléments du dossier (cadre légal, chiffres).
RAG. La délibération à écrire est courte (1 à 3 pages). Il ne s'agit pas de lire un document entier, mais de retrouver les bonnes délibérations passées et les bons articles parmi un grand nombre de documents.
Le RAG ramène les passages utiles, qu'on donne à lire avec les éléments du dossier. Tout donner serait coûteux et inutile : on n'a pas besoin de relire des délibérations entières.
Un habitant écrit un courrier court, avec ses mots à lui. La réponse doit s'appuyer sur les procédures, les règlements, les questions fréquentes et l'historique de son dossier.
RAG. Un habitant n'emploie jamais les mots de l'administration : il écrit « mes papiers », pas « pièces justificatives ». Le RAG cherche par le sens : il fait le lien.
Les documents internes sont nombreux, mais la réponse à écrire est courte et précise. Le RAG est indispensable, le document entier inutile.
Un fournisseur a rendu une réponse de 50 à 200 pages. Vous savez ce que vous y cherchez (le prix, la méthode, les garanties, les références) pour la comparer aux autres réponses.
RAG. Quand on sait précisément ce qu'on cherche (un prix, une garantie, une méthode), le RAG ramène ces passages, sans qu'on paie pour tout le document.
Tout donner à lire serait du gaspillage : 90 % de la réponse du fournisseur ne sert pas à la comparaison. Le RAG fait le tri.
Un projet d'appel d'offres de 30 à 80 pages est à relire : y a-t-il des doublons, des articles qui se contredisent, des renvois vers le mauvais article, des seuils ou des dates qui ne s'accordent pas ?
Full Context. Un seul document, de taille raisonnable, dont on veut vérifier la cohérence. Le modèle doit tout voir en même temps pour repérer deux articles éloignés qui se contredisent, ou un renvoi qui ne correspond plus.
Le RAG, lui, ne lit que des extraits : aucun extrait pris seul ne montre que le seuil de l'article 7 contredit celui de l'article 23.
Les règles
La taille de vos documents, le nombre de questions par jour, le budget que vous vous fixez. Sans ces trois chiffres, on choisit au hasard.
À préférer quand il faut une vue d'ensemble du document : le résumer, le réécrire, le contrôler.
Le meilleur choix pour chercher une information précise parmi beaucoup de documents : questions fréquentes, assistance, recherche de références.
Comparez les deux méthodes sur une vingtaine de questions types avant d'arrêter votre choix.
Le RAG trie d'abord. On ne donne un document entier à lire que si la tâche le demande et que le budget le permet.
Les fenêtres de contexte grandissent et les prix baissent. Gardez une organisation que vous pourrez faire évoluer.
À retenir
Ce n'est pas RAG ou Full Context. Le plus souvent, c'est RAG et Full Context : le premier pour retrouver l'information parmi beaucoup de documents, le second pour analyser un document à fond quand cela en vaut la peine.
En pratique : commencez avec le RAG seul. Combinez les deux dès qu'un cas demande la vue d'ensemble d'un document. Et gardez un œil sur la dépense totale.