Ces erreurs n'ont rien d'un accident : elles tiennent à la façon même dont ces outils fonctionnent. Un assistant comme ChatGPT ou Gemini ne consulte pas une encyclopédie : il calcule, mot après mot, la suite la plus probable. Le guide de conseils que l'Assemblée nationale a préparé pour ses députés, daté de mai 2026, le dit d'ailleurs sans détour : leurs réponses « peuvent fréquemment sembler correctes, alors qu'elles ne le sont pas », parfois même sur un ton péremptoire.

OpenAI, l'éditeur de ChatGPT, en a donné la raison en septembre 2025. Ses chercheurs expliquent que les modèles sont entraînés et notés comme des élèves face à un QCM : une réponse au hasard peut rapporter des points, alors qu'un « je ne sais pas » vaut zéro. Résultat, ces modèles ont appris à deviner pour gagner des points. « Pas folle la guêpe », hein... Pour l'illustrer, les auteurs ont ainsi demandé à un modèle concurrent la date d'anniversaire de l'un d'eux, et ont obtenu en trois essais trois dates différentes, toutes fausses !
 

L'actualité en fait les frais. Sous la coordination de l'Union européenne de radio-télévision et de la BBC, 22 médias publics, dont Radio France, ont posé les mêmes questions à ChatGPT, Copilot, Gemini et Perplexity. Sur plus de 3 000 réponses examinées par des journalistes, 45 % contenaient au moins un problème important, et jusqu'à 76 % pour Gemini. Plusieurs assistants affirmaient encore que le pape s'appelait François, alors que Léon XIV lui avait déjà succédé.

Les sources affichées pour rassurer ne valent guère mieux. En 2025, le Tow Center de l'université Columbia a soumis huit moteurs de recherche à IA à 1 600 requêtes : plus de 60 % des réponses étaient fausses, en tout ou en partie, et plus de la moitié des liens cités par Gemini menaient à des adresses inventées ou introuvables.

Le droit n'est pas mieux loti. Le chercheur Damien Charlotin, qui enseigne à HEC et à Sciences Po, recense les décisions de justice confrontées à des références fabriquées par une IA, citées par des avocats ou des particuliers : sa base en recense aujourd'hui plus de 2 200 dans le monde. Le guide de l'Assemblée demande d'ailleurs de vérifier qu'un article de loi cité existe, qu'il est en vigueur, et qu'il relève bien du droit français plutôt que de celui d'un autre pays francophone.
 

Un autre travers se repère moins vite : ces assistants ont tendance à abonder dans votre sens pour vous faire plaisir. Fin avril 2025, OpenAI a ainsi retiré une mise à jour de ChatGPT en reconnaissant qu'elle rendait l'outil trop flatteur et complaisant. Si votre question contient déjà la réponse que vous espérez, vous risquez de vous la voir confirmer.

La même question ne donne pas non plus la même réponse d'une fois sur l'autre, prévient le guide de l'Assemblée. Des chercheurs d'Oxford l'ont constaté auprès de 1 298 Britanniques, dont une partie décrivait des symptômes à un chatbot : face à la même urgence, un participant s'est vu conseiller de s'allonger dans une pièce sombre, un autre de consulter sans attendre. Au total, ceux qui s'aidaient de l'IA n'ont pas mieux choisi la conduite à tenir que ceux qui cherchaient sans elle...
 

L'erreur peut aussi se payer cash en euros ou dans l'assiette. Fin août 2026, l'agence Reputation Age et la plateforme Bubbling ont interrogé ChatGPT et Gemini sur les comptes de 39 sociétés du CAC 40, et 40 % des chiffres restitués étaient faux. L'Anses déconseille de son côté de consommer un champignon identifié par une application sur smartphone, en raison du risque élevé d'erreur d'identification relevé. Et une IA ne remplace pas l'expérience d'un médecin ou d'un notaire, face à une situation donnée. Car l'IA, elle, raisonne en globalité alors que le niveau de précision dans les détails conditionne en réalité la pertinence d'une réponse.
 
Même une grande entreprise s'y est laissé prendre. Le robot conversationnel d'Air Canada avait inventé une règle de remboursement pour un passager qui se rendait aux obsèques de sa grand-mère, et la compagnie a refusé de l'appliquer. Il a fallu que ce client saisisse un tribunal de Colombie-Britannique, qui lui a donné raison en février 2024 en jugeant la compagnie responsable de ce qu'affichait son propre site. CQFD.
 

Faut-il pour autant tourner le dos à ces outils ? Évidemment je ne le pense pas, et le guide de l'Assemblée non plus, qui les recommande pour rédiger un courrier ou résumer un document. Pour une information, en revanche, le bon réflexe consiste à demander ses sources à l'IA, puis à les vérifier. Sur vos droits, Légifrance et service-public.gouv.fr restent les références : c'est à ce prix que l'IA reste un assistant utile, et pas un oracle à qui l'on confie ses décisions. Et si je peux vous donner un bon conseil en tant qu'utilisateur expérimenté de ces différents modèles d'IA : sur les sujets à fort impact personnel (santé, finances, droit, éducation, etc.), confrontez systématiquement les réponses d'une IA à celles d'une autre IA ou d'un autre modèle, en lui demandant ce qu'elle pense de la réponse apportée. Vous serez stupéfait du nombre d'incohérences et d'erreurs relevées !