En bref
Un embedding est une façon de transformer un morceau de contenu - un mot, une phrase, une image, un extrait de code - en une liste de nombres (un vecteur) qui capture son sens, pour qu'un ordinateur compare des sens mathématiquement. Des contenus au sens proche reçoivent des vecteurs proches les uns des autres, des contenus sans rapport atterrissent loin. C'est toute l'astuce : dès que le sens est un ensemble de coordonnées, "trouve le passage le plus pertinent" devient "trouve les vecteurs les plus proches", ce qu'une machine fait instantanément sur des millions d'entrées. Les embeddings sont le moteur silencieux derrière la recherche sémantique, les recommandations, le clustering et surtout le Retrieval-Augmented Generation (RAG).
Comment un embedding capture le sens
Un modèle d'embedding lit votre entrée et produit un vecteur de longueur fixe, souvent quelques centaines à quelques milliers de nombres. Il a été entraîné pour que des entrées dans un contexte similaire obtiennent des vecteurs similaires, pour que "voiture" et "automobile" atterrissent proches, mais pas "voiture" et "banane". Vous ne lisez jamais les nombres vous-même, vous les comparez.
- Entrée : n'importe quel texte, image ou code que vous voulez rendre cherchable par sens.
- Sortie : un vecteur - une liste de nombres de longueur fixe - qui représente ce sens.
- Comparaison : la proximité de deux vecteurs (similarité cosinus) montre à quel point les entrées sont liées.
Embeddings et RAG
Les embeddings sont ce qui rend le RAG possible. Vous embeddez chaque section de vos documents une fois et stockez les vecteurs dans une base de données vectorielle. Au moment de la requête, vous embeddez la question de l'utilisateur avec le même modèle, trouvez les vecteurs de section les plus proches et donnez ces sections au modèle de langage comme contexte. Parce que le hit passe par le sens et non par les mots-clés exacts, même une question formulée autrement trouve le bon passage.
Où les embeddings sont utilisés
Au-delà du RAG, les embeddings alimentent la recherche sémantique (triée par sens, pas par mots-clés), les recommandations ("plus comme ceci"), la déduplication, le clustering et la classification. Pour les builders, le point pratique est celui-ci : une seule étape d'embedding transforme un contenu humain non structuré en quelque chose que vous pouvez chercher, grouper et traiter de façon fiable. C'est pourquoi presque toute fonction d'IA qui touche vos propres données commence par les embedder.