C'est le défaut qui a coûté le plus cher à des professionnels ces dernières années : un modèle qui invente une référence, une date, un article de loi, un chiffre. Le problème n'est pas tant l'erreur que le ton. La réponse fausse arrive avec exactement la même assurance que la réponse juste.
Le mot « hallucination » est d'ailleurs mal choisi. Il suggère un accident, un dérapage exceptionnel. C'est en réalité le fonctionnement normal du système poussé dans une zone où il n'a rien de solide à produire.
Définition
Une hallucination est une information fausse mais plausible produite par un modèle d'IA, présentée avec le même degré de certitude qu'une information exacte.
L'origine est mécanique. Un Grand modèle de langage (LLM) est entraîné à produire la suite la plus probable d'un texte, pas à dire la vérité. Quand la bonne réponse ne figure pas dans ce qu'il a appris, il ne dispose d'aucun mécanisme pour s'arrêter : il continue de produire ce qui ressemble le plus à une bonne réponse.
Un modèle n'a pas de curseur interne de confiance qu'il pourrait vous montrer. Il ne sait pas qu'il ne sait pas. C'est pourquoi « es-tu sûr ? » ne sert pas à grand-chose : la réponse à cette question est produite par le même mécanisme que l'erreur.
Où le risque est le plus fort
| Risque élevé | Risque faible |
|---|---|
| Un fait précis et vérifiable : date, montant, référence | Une reformulation d'un texte que vous fournissez |
| Un sujet de niche, peu présent dans les données | Un sujet très courant et stable |
| Un événement récent, postérieur à l'entraînement | Une tâche de style ou de structure |
| Une question posée sans contexte fourni | Une question portant sur un document joint |
La colonne de droite dessine la parade principale : plus vous fournissez la matière, moins le modèle a besoin d'inventer. C'est exactement le raisonnement qui a donné naissance au RAG.
Trois affirmations produites par un modèle. L'une est fausse. Laquelle ?
Comment s'en protéger
Fournissez la source plutôt que de la demander. Coller le document et demander une réponse fondée dessus réduit massivement le risque, comparé à une question posée dans le vide.
Autorisez explicitement l'ignorance. Une consigne du type « si l'information n'est pas dans le document fourni, réponds que tu ne l'as pas » change beaucoup de choses. Sans cette permission, le modèle considère qu'il doit répondre.
Demandez les passages cités. Exiger que chaque affirmation renvoie à un extrait du document rend la vérification rapide, et rend les inventions visibles immédiatement.
Vérifiez systématiquement les détails précis. Noms propres, chiffres, dates, références légales, adresses. Ce sont exactement les éléments qu'un modèle produit le plus volontiers de façon plausible mais fausse.
Croisez pour les décisions qui comptent. Deux modèles différents interrogés séparément se trompent rarement de la même manière. Sur un sujet à enjeu, c'est un contrôle peu coûteux.
Le cas le plus dangereux n'est pas l'erreur énorme, qui saute aux yeux. C'est l'erreur discrète au milieu d'un texte par ailleurs excellent : un chiffre légèrement faux, une date décalée d'un an. La qualité générale du texte endort la vigilance.
Questions fréquentes
Les modèles récents hallucinent-ils encore ?
Nettement moins, et ils admettent plus souvent leur ignorance qu'il y a deux ans. Mais le phénomène n'a pas disparu et ne disparaîtra pas complètement : il découle du principe même de la prédiction du texte. Un modèle plus récent déplace le problème vers des questions plus pointues, il ne le supprime pas.
Un accès à internet règle-t-il le problème ?
Il l'améliore beaucoup sur les faits récents, mais il en introduit un autre : la qualité de la source trouvée. Un modèle qui cite une page peu fiable produit une réponse fausse avec une référence à l'appui, ce qui est plus convaincant et donc plus risqué.
Peut-on repérer une hallucination à la lecture ?
Rarement, et c'est tout le problème. Le style ne change pas. Le seul indice utile est statistique : plus une affirmation est précise et vérifiable, plus elle mérite un contrôle. Une généralité a peu de chances d'être inventée, une référence exacte en a beaucoup.
Comment construire un usage professionnel malgré ce risque ?
En réservant l'IA aux tâches où vous pouvez juger le résultat, et en gardant une relecture humaine partout où une erreur sortirait de chez vous. Notre formation Claude Cowork aborde cette question des garde-fous en même temps que celle des gains, parce que les deux se décident ensemble.