Les notions
Hallucination
Aussi appelé : confabulation
Définition
Une hallucination est une réponse d’IA fausse ou inventée, présentée avec la même assurance qu’une réponse exacte : un chiffre erroné, une source qui n’existe pas, une clause mal citée.
Comment ça fonctionne
Elle vient du fonctionnement même des modèles de langage, qui produisent le texte le plus probable et non le texte vrai. Quand l’information manque, le modèle peut combler le vide de façon plausible.
Les hallucinations diminuent avec les modèles récents, mais ne disparaissent pas. On les réduit en fournissant les documents sources, en demandant des citations et en vérifiant les points critiques.
En entreprise
La règle de base : tout ce qui part chez un client, un juge, un investisseur ou un auditeur est vérifié par un humain, avec un retour au document source pour chaque chiffre et chaque citation.
Maîtriser Claude sur des dossiers réelsVoir aussi
- Vérification humaineLa vérification humaine est le principe selon lequel une personne compétente contrôle et valide le résultat produit par l’IA avant qu’il ne soit utilisé ou diffusé.
- RAGLe RAG est une méthode qui consiste à rechercher les passages pertinents dans une base documentaire, puis à les fournir au modèle pour qu’il réponde en s’appuyant sur ces sources plutôt que sur sa seule mémoire.
- Grand modèle de langageUn grand modèle de langage, ou LLM, est un modèle d’IA entraîné sur d’immenses volumes de texte pour prédire la suite la plus probable d’un texte. C’est le moteur de Claude, ChatGPT, Gemini ou Mistral.