Pourquoi l'IA invente, et comment vérifier ses réponses

Une IA invente parce qu'elle est conçue pour produire un texte plausible, pas pour dire la vérité : quand elle ne sait pas, elle complète quand même, avec le même ton assuré. On appelle ces erreurs des « hallucinations ». Elles ne disparaissent pas avec les nouvelles versions, mais on peut en réduire le risque et, surtout, apprendre à les repérer avant qu'elles ne se retrouvent dans un document envoyé.

D'où viennent les erreurs

Un modèle de langage a appris, sur une immense quantité de textes, quels mots ont tendance à suivre quels autres. Quand vous lui posez une question, il construit la suite la plus probable. Le plus souvent, la suite probable est aussi la bonne. Mais pas toujours.

• Il ne consulte pas une base de faits. Sauf s'il est relié à une recherche web ou à vos documents, il répond de mémoire, une mémoire statistique et floue.
• Il ne sait pas qu'il ne sait pas. Un modèle ne dispose pas d'un signal fiable qui l'avertirait « ici, je devine ». Le ton reste le même.
• Ses connaissances ont une date. Tout ce qui s'est passé après la fin de son entraînement lui est inconnu, sauf s'il fait une recherche.
• Il veut vous satisfaire. Si votre question présuppose quelque chose de faux (« pourquoi telle loi de 2019 impose-t-elle… »), il risque de suivre la prémisse au lieu de la contester.

Ce n'est donc pas un « bug » qu'on corrigera un jour une fois pour toutes : c'est une conséquence du fonctionnement même de ces outils.

Les signaux d'alerte

Certains contenus sont beaucoup plus exposés que d'autres. Redoublez de prudence quand la réponse contient :

Un autre signal : une réponse trop parfaite à une question difficile. Si vous cherchiez depuis des heures une information introuvable et que l'IA la livre, précise et bien sourcée, vérifiez avant de vous réjouir.

Cinq méthodes de vérification

La vérification n'a pas besoin d'être longue. Elle doit être proportionnée à l'enjeu : un brouillon de message à un ami n'exige rien, un chiffre dans un rapport à la direction exige tout.

1. Remonter à la source. Pour chaque fait important, trouvez le texte original : le site officiel, la publication, le texte de loi sur un site institutionnel. Si vous ne trouvez rien, considérez l'information comme fausse.
2. Ouvrir chaque lien. Un lien cité n'est pas une preuve tant que vous n'avez pas lu la page et vérifié qu'elle dit bien ce qu'on lui prête.
3. Poser la question autrement. Reformulez, ou demandez dans une nouvelle conversation. Une réponse qui change d'une fois à l'autre est suspecte.
4. Croiser avec un autre outil. Un moteur de recherche avec sources, comme Perplexity, ou un deuxième assistant. L'accord de deux IA ne prouve rien, mais un désaccord doit alerter.
5. Refaire les calculs. Tableur ou calculatrice pour tout chiffre qui compte. Vous pouvez aussi demander à l'IA de détailler chaque étape du calcul pour repérer où ça coince.

Des demandes qui réduisent le risque

On ne supprime pas les hallucinations, mais certaines façons de demander les rendent plus rares ou plus visibles.

Fournir vous-même la matière. Collez le document de référence, ou utilisez un outil qui s'appuie sur vos sources comme Gemini Notebook. L'IA travaille alors à partir d'un texte réel plutôt que de sa mémoire. C'est le principe expliqué dans le RAG expliqué simplement.

Autoriser le « je ne sais pas ». Dites explicitement que l'absence de réponse est acceptable.

Demander de séparer le sûr du supposé. Vous voyez tout de suite où concentrer votre vérification.

Réponds à la question suivante en t'appuyant uniquement sur le texte fourni ci-dessous. Pour chaque affirmation, cite entre guillemets le passage qui la justifie. Si le texte ne permet pas de répondre, écris « non précisé dans le document » plutôt que de compléter.

Question : [votre question]

Texte : [collez le document]

Et pour une question sans document :

[Votre question]
Classe ta réponse en trois parties : ce dont tu es raisonnablement sûr, ce qui est probable mais à vérifier, et ce que tu ne sais pas. N'invente aucune référence : si tu n'es pas certain qu'une source existe, dis-le.

Ces consignes n'offrent aucune garantie, mais elles changent nettement la façon dont l'incertitude apparaît dans la réponse.

Les situations où il ne faut pas s'en remettre à l'IA

Certains domaines exigent un professionnel, quelle que soit la qualité de la réponse obtenue : un diagnostic ou un traitement médical, un conseil juridique engageant, une décision fiscale, un calcul de structure en bâtiment. L'IA peut vous aider à préparer le rendez-vous (formuler vos questions, comprendre le vocabulaire), pas à le remplacer.

Dans un cadre professionnel, vérifiez aussi les règles de votre organisation. Le règlement européen sur l'IA impose des obligations particulières pour certains usages dits à haut risque, et votre employeur peut avoir sa propre politique. Pour les précautions sur les données, voyez ce qu'on peut confier à une IA.

Faire de la vérification un réflexe

La vérification devient naturelle quand elle fait partie de votre méthode, et non une étape qu'on rajoute quand on y pense. Un bon principe : avant d'envoyer un texte produit avec l'IA, relisez-le en surlignant mentalement chaque fait vérifiable (nom, date, chiffre, référence) et demandez-vous d'où il vient.

Les formations de Genialab intègrent ce réflexe dans leurs exercices, notamment Bien parler à l'IA et Perplexity pour la recherche avec sources. Le parcours certificat IA en 28 jours l'aborde dès les premières leçons.