Crédibilité
Hallucinations de l’IA : le problème commence aux sources
Les erreurs des assistants d’IA tiennent souvent aux sources : ce que montrent l’étude UER-BBC, l’étude de Stanford et la base de Damien Charlotin.
On parle d’hallucinations comme d’une fantaisie du modèle au moment d’écrire : une phrase inventée, sortie de nulle part. L’image laisse penser que le remède tient au modèle lui-même. Plusieurs travaux suggèrent pourtant qu’une part importante des erreurs se joue aussi ailleurs, dans le rapport aux sources : ce que la réponse cite, ce qu’elle omet de citer, et ce que dit vraiment la source citée.
Plus de 3 000 réponses évaluées par des journalistes
En octobre 2025, l’Union européenne de radio-télévision (UER) et la BBC ont publié la plus vaste étude menée sur le sujet. Vingt-deux médias de service public de dix-huit pays, dont Radio France, ont fait évaluer par leurs journalistes plus de 3 000 réponses de ChatGPT, Copilot, Gemini et Perplexity à des questions d’actualité, dans quatorze langues.
Selon l’UER, 45 % des réponses présentaient au moins un problème significatif. Le détail est plus instructif encore. Les graves problèmes de sources, c’est-à-dire les attributions absentes, trompeuses ou erronées, touchaient 31 % des réponses, contre 20 % pour les erreurs d’exactitude proprement dites.
Radio France, partie prenante de l’étude, résume le résultat en une ligne : le sourçage est la première cause des problèmes relevés. Cette lecture appelle une réserve. Ces résultats portent sur des questions d’actualité et n’isolent pas une cause technique unique ; ils montrent surtout la fragilité du sourçage.
Fausse ou mal fondée : une distinction décisive
Une autre étude apporte une distinction encore plus utile. Hallucination-Free?, menée par des chercheurs de Stanford et de Yale et publiée en 2025 dans le Journal of Empirical Legal Studies, a évalué en 2024 trois outils de recherche juridique des deux plus grands éditeurs du marché, LexisNexis et Thomson Reuters. Tous étaient construits sur une architecture RAG : ils cherchent dans une base documentaire avant de rédiger leur réponse. Chacun produisait des hallucinations entre 17 % et 33 % du temps.
L’étude sépare les réponses fausses des réponses « mal fondées », qui énoncent correctement le droit mais citent une source qui ne l’appuie pas.
Une réponse mal fondée a toutes les apparences du sérieux. Elle porte une référence, cette référence existe, et seule une lecture du passage révèle le décalage.
Vérifier qu’une référence existe ne suffit donc pas : il faut encore lire ce qu’elle dit.
Les auteurs avancent aussi une explication aux écarts entre outils. Les réponses les plus longues, comme celles de Westlaw, contiennent davantage d’affirmations, donc davantage d’occasions de se tromper, comme le relève LawSites. Plus une réponse affirme, plus elle compte de points à vérifier.
Des rapports aux tribunaux
Le cas le plus parlant pour toute organisation qui produit des rapports vient d’Australie : en 2025, un rapport d’examen indépendant remis par le cabinet Deloitte au ministère de l’Emploi contenait une citation inventée d’un jugement de la Cour fédérale et des références à des travaux universitaires inexistants.
Le phénomène a dépassé le stade de l’anecdote. Le chercheur Damien Charlotin, rattaché à HEC Paris, tient une base publique des décisions de justice constatant l’usage de contenus hallucinés dans des procédures. Il y recense, pour l’essentiel, les cas où un tribunal a constaté ou clairement sous-entendu cet usage, selon la méthodologie publiée avec la base.
Début juin 2026, selon la bibliothèque de droit de l’université de Caroline du Nord, cette base recensait plus de 1 000 affaires pour les seuls États-Unis, dont environ 40 % impliquant des avocats. L’erreur touche donc aussi les professionnels du droit.
Ce que cela change
Ces travaux déplacent la question. L’enjeu ne se limite pas à ce que le modèle écrit : il tient aussi à ce sur quoi la réponse s’appuie, et à la possibilité de vérifier ce lien.
Chercher dans des documents avant de répondre aide. Les outils évalués par l’étude de Stanford hallucinaient moins que GPT-4 utilisé seul, ce qui confirme l’intérêt de l’architecture. Leurs résultats montrent aussi qu’écrire RAG sur une plaquette commerciale garantit peu de chose : la qualité dépend de la manière dont le système est construit, puis évalué.
Deux contrôles en découlent, dans cet ordre : vérifier que chaque référence existe dans le corpus, puis qu’elle soutient bien l’affirmation. Le premier écarte les références inventées, le second les réponses mal fondées, que seule la lecture du passage révèle. Ce contrôle se conçoit et se teste ; il relève de la méthode, au-delà de la seule présence d’un corpus.