Prédiction du churn client par extraction sémantique structurée : une comparaison empirique des embeddings contextuels et du pipeline RAG

Details

Supervisors

Vande Kerckhove, Corentin

Faculty

Louvain School of Management

Degree label

Master [120] : ingénieur de gestion, à finalité spécialisée

Abstract

frDans un contexte de marché saturé, la prédiction du churn est devenue un enjeu stratégique majeur pour les entreprises. Si les modèles prédictifs reposent traditionnellement sur des données transactionnelles structurées, les avis textuels laissés par les clients après leur expérience d’achat constituent une source d’information complémentaire encore largement sous-exploitée. Ce mémoire s’interroge sur la forme optimale de représentation de ces données textuelles dans un cadre prédictif, en posant la question suivante : dans quelle mesure une extraction sémantique structurée via un pipeline RAG améliore-t-elle la prédiction du churn client par rapport aux données structu- rées seules ou aux embeddings contextuels ? Pour y répondre, quatre conditions expérimentales sont comparées sur le Brazilian E-Commerce Public Dataset d’Olist, qui combine à l’échelle transactionnelle des données structurées et des avis textuels en portugais. La première condition repose exclusivement sur des variables transactionnelles. La deuxième intègre des embeddings contextuels produits par un modèle SentenceTransformer multilingue. La troisième mobilise un pipeline de type Retrieval-Augmented Generation (RAG), qui structure l’information textuelle autour de quatre dimensions théoriques du churn identifiées dans la littérature, à savoir la livraison, la qualité produit, le service client et le prix, afin de produire des variables sémantiques interprétables. Enfin, la dernière condition constitue une référence non supervisée fondée sur une approche zero-shot avec GPT-4o mini. Le dispositif repose sur un split temporel, des tests de permutation et une analyse bootstrap garantissant la robustesse des comparaisons. Les résultats montrent un apport massif et statistiquement significatif des données textuelles par rapport aux données structurées seules. À pleine capacité d’entraînement, les embeddings contextuels et le pipeline RAG atteignent des performances équivalentes. Toutefois, à volume d’entraînement réduit, le RAG surpasse significativement les embeddings, indiquant une meilleure efficience par observation. Au-delà de la performance, le RAG produit des variables directement interprétables et actionnables, là où les embeddings fonctionnent comme une boîte noire. Quelle que soit la méthode mobilisée, la livraison émerge comme le déterminant principal du churn dans Olist, résultat cohérent avec la littérature sur le e-commerce. Ce mémoire explore ainsi un usage du RAG distinct de son application classique en questions-réponses, en l’utilisant comme générateur de variables structurées destinées à alimenter un modèle prédictif supervisé.