Embeddings

Un embedding transforme un texte (un mot, une phrase, un passage entier) en une liste de nombres, de quelques centaines à quelques milliers de valeurs selon le modèle. Pris isolément, ces nombres ne veulent rien dire. Leur intérêt tient à la position qu’ils donnent au texte dans un espace où les contenus de sens voisin se retrouvent proches. « Résilier mon abonnement » et « arrêter mon contrat » partagent peu de mots, mais leurs vecteurs sont très proches.

Ces représentations ont permis aux moteurs de dépasser la correspondance de mots-clés ; ce sont elles qui sélectionnent les passages que les assistants IA lisent avant de répondre. Conséquence directe pour une marque : répéter un mot-clé ne rapproche pas un contenu d’une question, décrire précisément le besoin exprimé, si.

Comment les IA comparent une question et un contenu

Un modèle d’embedding, distinct du modèle qui rédige la réponse, a appris sur d’immenses corpus à placer les textes selon leur sens, dans le prolongement des techniques de traitement du langage naturel. Dans un système de RAG, le processus se déroule ainsi :

1. les documents sont découpés en passages (le chunking) et chaque passage reçoit son vecteur, stocké dans une base vectorielle ;
2. la question de l’utilisateur est convertie en vecteur, par le même modèle ;
3. le système mesure la proximité entre ce vecteur et ceux des passages, le plus souvent par similarité cosinus, un score qui vaut 1 quand deux vecteurs pointent exactement dans la même direction ;
4. les passages les plus proches sont transmis au modèle génératif.

Cette recherche dite « dense » a un point faible connu : elle gère mal les correspondances exactes, comme une référence produit, un code d’erreur ou un nom de marque rare. Beaucoup de systèmes la combinent donc avec une recherche lexicale classique, puis fusionnent les deux classements, par exemple avec la Reciprocal Rank Fusion.

Exemple concret : une fiche produit qui ne remonte pas

Prenons une marque de cosmétiques et une internaute qui demande à un assistant IA : « quelle crème quand ma peau tiraille après la douche en hiver ? ». La fiche « Crème riche nutrition intense, karité 10 % » ne contient aucun de ces mots. Dans un système vectoriel, un passage qui décrit « une peau sèche qui tiraille, surtout par temps froid » pourrait obtenir un score de 0,82 face à cette question, contre 0,45 pour une fiche limitée à la composition et au prix. Les scores sont illustratifs, le principe ne l’est pas : c’est la description de la situation d’usage qui rapproche la fiche de la question, pas la répétition d’un mot-clé.

Les idées reçues à corriger

• « Plus une page couvre de sujets, mieux c’est » : un passage qui traite quatre thèmes à la fois produit un vecteur moyen, proche d’aucune question précise.
• « Les embeddings rendent les mots exacts inutiles » : pour les noms de produits, références et chiffres, le texte littéral compte toujours, d’où les recherches hybrides.
• « Le score de similarité décide de tout » : la proximité sémantique présélectionne des candidats, d’autres signaux (fiabilité de la source, fraîcheur, reclassement) décident ensuite de ce qui est cité.
• Oublier votre propre site : deux pages aux vecteurs très proches signalent souvent une cannibalisation.

Comment exploiter les embeddings dans votre stratégie

Vous ne verrez jamais les vecteurs de Google ou de ChatGPT, mais vous pouvez raisonner avec les mêmes outils. Un crawler comme Screaming Frog, connecté à une API d’IA, sait calculer les embeddings de vos pages : vous repérez ainsi les contenus quasi identiques qui se concurrencent et les pages éloignées du thème de leur rubrique. Côté rédaction, partez des formulations réelles (Search Console, service client, forums) plutôt que d’un mot-clé unique, et décrivez les situations d’usage autant que les caractéristiques.