Hallucinations de l’IA : ce que les cas réels nous apprennent

New York, 2023. Deux avocats produisent devant un tribunal fédéral des décisions de justice que ChatGPT a inventées. Puis ils les maintiennent.

Le 22 juin 2023, le juge P. Kevin Castel inflige 5 000 dollars d’amende aux deux avocats et à leur cabinet. L’affaire, rapportée par The Register, s’appelle Mata contre Avianca.

On aurait pu croire à un accident isolé. La suite dit le contraire.

Une IA ne ment pas, elle prédit

Mentir suppose de connaître la vérité. Un modèle de langage ne la connaît pas. Il produit la suite de mots la plus probable. Quand cette suite est juste, il a raison. Quand elle est seulement plausible, il invente. Sur le même ton.

La CNIL le dit sobrement. Ces outils peuvent produire des résultats inexacts, qui paraissent pourtant plausibles. D’où un risque de décision erronée, quand on leur fait trop confiance.

D’où vient cet aplomb ? Des chercheurs d’OpenAI et de Georgia Tech ont publié une explication le 4 septembre 2025. Les hallucinations naissent sur des faits rares, que les régularités statistiques ne permettent pas de prédire. Et elles persistent pour une raison simple. L’entraînement et les évaluations récompensent la réponse devinée plutôt que l’aveu d’incertitude.

Autrement dit, on a appris à ces outils à répondre quelque chose plutôt que « je ne sais pas ». Un modèle peut donc citer avec assurance une référence qui n’existe pas. Le fonctionnement est expliqué sur la page l’IA générative, c’est quoi.

Combien de fois ? Ça dépend de la question

Il n’existe pas de « taux d’hallucination » unique. Les mesures publiées varient fortement selon la tâche. En voici deux, avec leur périmètre.

Lisez ces chiffres pour ce qu’ils sont. Le classement Vectara mesure la fidélité à un document fourni, pas la justesse d’une réponse sans source. L’étude de l’UER et de la BBC porte sur l’actualité. Les questions ont été posées à ChatGPT, Copilot, Gemini et Perplexity, dans 18 pays et 14 langues.

La leçon tient en deux lignes. Même quand on fournit le document, il reste une part d’invention : dans ce classement, aucun modèle n’est à zéro. Et sur l’actualité, sans document fourni, près d’une réponse sur deux pose un problème significatif.

Ce que les tribunaux ont vu passer

Damien Charlotin, chercheur associé à HEC Paris, tient une base mondiale. Elle recense les décisions de justice qui traitent de contenus hallucinés par l’IA. Au 12 novembre 2026, elle en compte 2 292. Dont 1 553 aux États-Unis, et 14 en France.

La tendance est nette. Selon une dépêche de l’AFP du 15 juin 2026, les cas recensés ont été multipliés par huit en douze mois. Et les sanctions montent : amendes, heures de formation imposées, interdictions d’exercer.

Trois leçons que ces affaires répètent

L’outil n’est jamais condamné. Dans chaque ligne du tableau, c’est une personne ou une organisation qui paie. L’avocat. Le cabinet. La compagnie aérienne, jugée responsable de ce que son agent conversationnel avait répondu. La CNIL le formule pour les employeurs. En cas de mauvaise utilisation par son personnel, c’est en général l’organisation utilisatrice qui engage sa responsabilité.

Le montant n’est pas le sujet. 812,02 dollars canadiens ici, 5 000 dollars là. Les amendes sont souvent modestes. Le coût est ailleurs. Un nom dans une décision publique. Un rapport à reprendre. Un client qui se demande ce que vous avez relu d’autre.

Ce qui coûte, c’est le faux qu’on signe. À New York, l’amende vise des avocats qui ont produit des décisions inventées, puis les ont maintenues. Signer sans vérifier, puis s’entêter. L’outil, lui, n’a fait que ce qu’il fait toujours.

Vérifier : ce que disent les sources officielles

Les consignes existent. Elles sont courtes, et elles disent toutes la même chose.

• La CNIL demande de vérifier l’exactitude des résultats, et de ne rien réutiliser sans relecture. Elle met en garde contre le biais d’automatisation, cette pente qui fait croire la machine sur parole. Elle demande aussi de former les utilisateurs aux limites de l’outil, avant usage.
• France Num, la CPME et la CNIL le répètent dans leurs fiches pour les TPE et PME. On contrôle les résultats. L’usage engage la responsabilité de l’entreprise, et l’humain reste le dernier maillon.
• La Commission européenne en fait un exemple d’application de l’article 4 du règlement sur l’IA. Les salariés doivent être informés des risques propres à ces outils, dont les hallucinations.

Pour une référence juridique ou un chiffre, une seule méthode : remonter à la source primaire avant toute reprise. Légifrance, Judilibre, le site de l’organisme. Pas un résumé. Pas une autre IA.

Le problème n’est pas l’erreur, c’est l’absence de relecteur

Reprenez les affaires une à une. L’outil n’a rien caché. Il a produit du plausible, comme toujours. Ce qui a manqué, c’est un humain entre la machine et le destinataire.

Dans beaucoup de boîtes, la relecture est l’affaire de tout le monde. Donc de personne. On compte sur la vigilance de chacun. Mais la vigilance s’use, surtout face à un texte bien écrit.

Une règle, elle, tient. Tel type de document. Telle personne qui relit. Telle source qui fait foi. Trois informations, une ligne dans votre charte IA.

Lundi matin

Prenez le dernier document important sorti de chez vous avec l’aide d’une IA. Une proposition, une note, un courrier. Posez une seule question : qui l’a relu, et contre quelle source ?

Si la réponse est un nom et une source, tout va bien. Si la réponse est un silence, vous savez par où commencer. Écrivez la ligne. Puis faites pratiquer la grille de vérification : cinq questions, deux minutes.

Les hallucinations ne disparaîtront pas d’un coup de mise à jour : la page hallucinations explique pourquoi. Ce qui peut disparaître dès cette semaine, c’est le flou sur qui relit.

Une IA ne ment pas. Elle prédit. À vous de dire qui relit.