Qu’est-ce qu’une hallucination de l’IA ?
Une hallucination, c’est une information inventée présentée avec exactement l’assurance d’une information vraie : une citation que personne n’a prononcée, un article de loi qui n’existe pas, un chiffre rond qui sonne juste. On la repère en demandant la phrase exacte qui appuie chaque affirmation et en vérifiant à la main tout ce qui est précis : chiffres, dates, noms propres et références.
Pourquoi ça arrive
Parce que l’objectif du modèle est que la suite colle, pas qu’elle soit vraie. Quand tu demandes une information qu’il n’a pas, la suite la plus probable n’est pas « je ne sais pas » : c’est quelque chose qui a la forme d’une information. Un chiffre plausible, une date plausible, un nom plausible. Voilà pourquoi les inventions ont si bonne allure.
Où elle invente le plus
- Chiffres et statistiques, surtout ronds ou « selon une étude ».
- Citations et références : livres, décisions, articles de loi, liens.
- Faits récents, postérieurs à ce que l’outil connaît.
- Détails très locaux : horaires, tarifs, démarches de ta ville.
- Tout ce que tu réclames une deuxième fois alors qu’elle ne l’a manifestement pas.
Trois protections qui ne coûtent rien
- Fournis toi-même la matière. Colle le document et demande de ne travailler que là-dessus : il ne reste presque plus de place pour inventer.
- Exige la phrase exacte. « Pour chaque point, recopie la phrase du texte qui l’appuie. » Pas de phrase, pas de fait.
- Autorise le « je ne sais pas ». « Si ce n’est pas dans le texte, écris : non mentionné. » Ça paraît évident et ça change tout.
La vérification de deux minutes
Avant de transférer quoi que ce soit, souligne le précis — chiffres, dates, noms, références — et ne vérifie que ça. C’est là que se concentre l’essentiel du risque, et ça prend deux minutes. Le reste du texte, si l’argument tient, se lit avec ton jugement habituel.
Un signal d’alarme qui vaut pour tout : plus une réponse sonne sûre d’elle sur un point très précis que tu ne lui as pas fourni, plus il faut la vérifier.
L’IA ne ment pas : elle comble. Ton travail, c’est de ne pas signer ce qu’elle a comblé sans regarder.