Quiz : génération augmentée par récupération (RAG)

Pas forcément. Anthropic rappelle que la solution la plus simple est parfois la meilleure : si la base tient confortablement dans le prompt, on peut l’y mettre en entier, et la mise en cache des prompts rend l’approche rapide et économique. La RAG s’impose quand la base est trop volumineuse, trop changeante, ou quand le volume de questions rend chaque jeton coûteux. Gardez aussi en tête le context rot : la précision baisse quand le contexte s’allonge (leçon 46).

Le découpage par taille, avec chevauchement : il fonctionne avec tout type de contenu, y compris le code, et ne casse jamais le pipeline. Vérifiez que le chevauchement reste inférieur à la taille des morceaux, sans quoi la boucle ne s’arrête pas (leçon 47).

Parce que Voyage ajoute au texte une consigne adaptée à son rôle avant de le vectoriser, ce qui améliore la qualité de la recherche. La documentation demande de toujours préciser input_type pour une tâche de recherche (leçon 48).

Le premier, à 0,71 : une distance cosinus vaut 1 moins la similarité, donc la plus petite désigne le morceau le plus proche. On trie les distances par ordre croissant (leçons 49 et 50).

Parce qu’un embedding permet de mesurer une proximité, pas de retrouver le texte dont il vient. Sans le texte, ou au moins une référence vers lui, la recherche saurait quel morceau est le plus proche sans pouvoir le donner à Claude (leçon 50).

BM25, la recherche lexicale : elle donne un poids élevé aux termes rares, comme un identifiant, et ne renvoie que les documents qui le contiennent. La recherche sémantique peut ramener un passage de sens voisin qui ne mentionne pas l’incident (leçon 51).

Parce qu’une distance cosinus et un score BM25 n’ont ni la même échelle ni le même sens de lecture : les additionner n’aurait pas de sens. La fusion ne retient que le rang de chaque document dans chaque classement, et additionne 1 / (k + rang), avec k = 60 le plus souvent (leçon 52).

Attribuer un identifiant court à chaque candidat, pour que Claude renvoie des identifiants au lieu de recopier des passages ; et demander une sortie structurée, qui garantit la liste {"document_ids": [...]}. Un reclasseur dédié, comme rerank-3 de Voyage, est l’autre option (leçon 53).

Avant l’indexation, Claude écrit pour chaque morceau une courte phrase qui le situe dans son document, et cette phrase est ajoutée devant le morceau, dans l’index vectoriel comme dans BM25. Anthropic a mesuré 35 % d’échecs de récupération en moins avec les embeddings contextuels, 49 % en ajoutant BM25 contextuel, et 67 % avec un reclassement (leçon 54).

Avec la mise en cache des prompts : le document est placé dans un bloc marqué cache_control, écrit une fois, puis relu à une fraction du prix pour chaque morceau. Le préfixe doit dépasser le seuil du modèle, 512 jetons sur les modèles actuels. Les embeddings contextualisés voyage-context-4 sont une alternative sans génération (leçon 54).