RAG

RAG (Retrieval Augmented Generation) est une architecture d'IA qui combine deux composants : une base de connaissances vectorielle (où chaque document, paragraphe ou extrait est encodé en vecteur sémantique) et un modèle de langage (LLM, type GPT, Claude, Gemini, Mistral). Lors d'une requête utilisateur, le système recherche d'abord les passages les plus pertinents dans la base, puis injecte ces passages dans le prompt envoyé au LLM, qui génère une réponse fondée sur les documents récupérés.

Cette architecture présente trois avantages majeurs sur l'utilisation directe d'un LLM : réduction des hallucinations (la réponse est ancrée sur des documents réels), traçabilité (chaque réponse peut citer les sources utilisées), et actualité (la base de connaissances peut être mise à jour sans réentraîner le modèle, ce qui coûterait des centaines de milliers d'euros).

Les composants techniques typiques d'un RAG : un pipeline d'ingestion qui découpe les documents en chunks, les vectorise via un modèle d'embedding (text-embedding-3, all-MiniLM, BGE…) et les stocke dans une base vectorielle (Pinecone, Weaviate, Qdrant, pgvector). Un module de recherche (similarité cosinus, hybride avec BM25, reranker). Un orchestrateur qui assemble le prompt avec les passages récupérés. Le LLM qui génère la réponse. Une couche HITL ou de filtrage selon le niveau de criticité.

Le RAG s'oppose au fine-tuning (ré-entraînement du modèle sur des données métier) et au contexte long (envoyer toute la documentation dans la fenêtre du modèle, ce qui devient possible avec les modèles à 1M+ tokens mais reste coûteux à grande échelle). Pour la majorité des cas d'usage entreprise, RAG reste l'approche la plus pragmatique en 2026.

Pour un dirigeant, le RAG est l'architecture standard pour transformer la documentation interne en assistant intelligent : base de connaissances support client, documentation produit, manuels techniques, dossiers juridiques, FAQ médecin, procédures qualité. Le retour sur investissement est généralement rapide (4 à 6 mois) parce que le RAG ne remplace pas un humain, il l'augmente.

Les coûts à anticiper : infrastructure (base vectorielle, modèle d'embedding, LLM en API ou self-hosted), ingestion initiale de la documentation, maintenance de la base (chaque évolution documentaire doit être réindexée), et conformité (RGPD, secteur santé HDS, secret bancaire).

Le piège : déployer un RAG comme une commodité sans cadre HITL ni contrôle qualité. Une réponse fausse mais fluide d'un chatbot peut faire plus de dégâts qu'un humain qui dit "je ne sais pas". Le RAG sans contrôle qualité est plus dangereux qu'un FAQ statique.