Hallucinations de l’IA : exemples concrets et méthode pour les éviter

Une hallucination est une réponse d’IA fausse ou inventée, présentée avec la même assurance qu’une réponse exacte. C’est le risque le plus sérieux de l’IA générative au travail, précisément parce qu’il ne se voit pas : le texte est fluide, le ton est sûr, l’erreur passe.

Pourquoi les modèles hallucinent

Un modèle de langage ne consulte pas une base de faits. Il produit, mot après mot, la suite de texte la plus probable. Quand l’information manque ou qu’elle est ambiguë, il comble le vide avec ce qui ressemble le plus à une bonne réponse. Les modèles récents hallucinent beaucoup moins, mais aucun n’en est exempt.

Des exemples que l’on rencontre vraiment

• Le chiffre arrondi qui devient faux. Dans la synthèse d’un compte d’exploitation, un total recalculé de tête par le modèle diffère du document source.
• La référence qui n’existe pas. Un article de loi, une jurisprudence ou une étude citée avec précision, mais introuvable.
• La clause mal attribuée. Dans l’analyse d’un bail, une clause d’indexation attribuée au mauvais article ou à la mauvaise version du contrat.
• La certitude sur un sujet récent. Une réponse sur une réglementation ou un produit qui a évolué depuis l’entraînement du modèle.

La méthode pour les éviter

1. Donner les sources. Plutôt que de demander au modèle ce qu’il sait, fournissez-lui le document et demandez-lui de répondre uniquement à partir de celui-ci. C’est le principe du RAG, appliqué à la main.

2. Exiger des citations. Demandez pour chaque affirmation importante l’extrait exact et sa page. Une citation se vérifie en quelques secondes.

3. Autoriser le « je ne sais pas ». Précisez dans la consigne que l’absence d’information doit être signalée plutôt que comblée.

4. Faire calculer, puis contrôler. Pour les chiffres, demandez le détail du calcul et refaites le contrôle sur les totaux qui comptent.

5. Vérifier ce qui engage. Tout ce qui part chez un client, un investisseur, un juge ou un auditeur passe par une vérification humaine, avec un retour au document source.

Une compétence d’équipe, pas une affaire individuelle

Les hallucinations ne disparaîtront pas avec la prochaine version des modèles. La protection la plus efficace est une méthode partagée par toute l’équipe, avec des règles de vérification proportionnées aux enjeux. C’est l’un des piliers de nos formations.