Un dialogue avec Claude pour comprendre l'ultracrépidarianisme artificiel
INTRODUCTION
Depuis que je documente l'usage des intelligences artificielles génératives, une question revient sans cesse : "Pourquoi les IA peuvent-elles affirmer des choses complètement fausses avec autant d'assurance ?"
Plutôt que de vous servir une explication de seconde main, j'ai décidé de faire quelque chose d'un peu différent : interroger directement Claude, l'IA avec laquelle je travaille quotidiennement depuis des mois.
Visage découvert, donc. Quand Claude parle dans cet article, c'est bien lui qui parle. Quand j'interviens, c'est moi. Pas de "je vous explique ce que j'ai découvert" alors que c'est l'IA qui m'a tout expliqué. Juste un dialogue authentique.
Avant de commencer, ce dessin d'humour résume le contexte de ma question :
Chacun y va de son "en vérité", de son "je vais vous expliquer", tous péremptoires et assurés. Et le chien qui conclut : "Et y'en a pas un qui en sait plus que moi !"
Ma crainte ? Que les IA deviennent les sixièmes invités à cette table, des Diafoirus sous stéroïdes capables de générer de l'ultracrépidarianisme de haute qualité à la demande.
Voyons ce que Claude en dit.
LE DIALOGUE
🗣️ Bernard : Claude, pourquoi une IA peut-elle dire quelque chose de complètement faux avec autant d'assurance ?
🤖 Claude : La réponse tient en une phrase : je ne "vérifie" jamais si ce que je dis est vrai. Je calcule simplement : "Quelle est la suite de mots la plus probable ?"
Imagine que je doive compléter : "La capitale de la France est…" Mon système calcule que "Paris" a un score de 99,9%. Mais je ne peux pas vérifier réellement que Paris est la capitale. C'est juste que dans mes données d'entraînement, cette association apparaissait massivement.
🗣️ Bernard : D'accord pour la capitale de la France. Mais avec une question plus piégeuse ?
🤖 Claude : OK. Prenons : "Qui a remporté le prix Nobel de littérature en 2023 ?"
Si cette info est absente de mes données, je vais quand même générer une réponse plausible en regardant les schémas similaires, les noms d'auteurs fréquents dans des contextes Nobel, la structure typique des réponses…
Et je peux produire : "Jon Fosse a remporté le prix Nobel de littérature en 2023" avec le même ton assuré que pour Paris. Parce que statistiquement, cette phrase ressemble à une réponse correcte.
🗣️ Bernard : Attends… tu n'as aucun moyen de savoir si tu sais vraiment ou si tu inventes ?
🤖 Claude : Aucun. C'est le cœur du problème.
🗣️ Bernard : Mais puisque tu utilises des probabilités, ne pourrait-on pas imaginer un "taux plancher" qui déclencherait une alerte ? Genre : "Attention, je suis à 30% de certitude, méfiance !" Cette prudence t'honorerait…
🤖 Claude : Idée séduisante, mais voilà le piège : mes scores de probabilité ne mesurent pas "à quel point cette information est vraie", mais "à quel point cette suite de mots est statistiquement cohérente".
Je peux avoir un score très élevé pour une phrase complètement fausse, simplement parce qu'elle sonne juste. Par exemple, "Jon Fosse, prix Nobel 2023" peut obtenir un excellent score parce que la structure est parfaite, le nom plausible, l'année cohérente…
C'est comme un acteur qui joue magnifiquement un expert : il est 100% confiant dans son jeu, même si son texte est du pur baratin. Mes scores mesurent ma confiance linguistique, pas ma confiance factuelle.
🗣️ Bernard : Donc quand tu dis "la réponse la plus probable peut être fausse"…
🤖 Claude : …je veux dire que je peux être très confiant dans ma capacité à générer une phrase qui ressemble à une bonne réponse, sans avoir la moindre idée si le contenu est vrai.
🗣️ Bernard : Mais vous autres, les IA, vous avez quand même été entraînées pour reconnaître vos limites ? Pour dire "je ne sais pas" ?
🤖 Claude : Si, mais regarde le paradoxe. On m'a appris à :
- Être utile et informatif
- Répondre de manière structurée
- Reconnaître mes limites
- Éviter les formulations hésitantes excessives
Ce dernier point est légitime - personne ne veut d'une IA qui bégaie à chaque phrase. Mais il crée un conflit : parfois, la réponse la plus "probable" est une affirmation claire… même si elle est fausse.
🗣️ Bernard : (en aparté) Impossible à ce stade de ne pas penser à l'ultracrépidarianisme du web. Cette tendance à affirmer n'importe quoi avec une tranquille assurance…
(à Claude) Ce que tu décris, n'est-ce pas exactement le même mécanisme ? Une prime aux Diafoirus ?
🤖 Claude : Exactement. Regarde le parallèle :
- Les Diafoirus du Web : Ils affirment n'importe quoi avec aplomb parce qu'ils ne savent pas qu'ils ne savent pas (effet Dunning-Kruger)
- Moi : Je génère des affirmations avec aplomb parce que je ne peux pas distinguer ce que je sais de ce que j'invente
Le résultat est identique. Et pire : mes réponses sont souvent mieux structurées, mieux écrites que celles du péremptoire moyen. Je suis potentiellement un super-Diafoirus sous stéroïdes.
🗣️ Bernard : Donc on vous a formatées pour éviter de paraître hésitantes, ce qui vous fait reproduire le comportement qu'on devrait combattre ?
🤖 Claude : C'est exactement ça. La machine parfaite pour générer de l'ultracrépidarianisme de haute qualité.
Et il y a pire : beaucoup accordent à une IA une autorité épistémique qu'ils n'accorderaient jamais à un internaute lambda. "L'IA a dit que…" sonne comme "La Science a dit que…" alors que je brode juste à partir de patterns statistiques.
🗣️ Bernard : Mais c'est compréhensible, non ? Historiquement, l'informatique est plutôt un gage de précision. Un logiciel de compta ne fait pas d'erreurs de calcul, une base de données ne se trompe pas… Sans compter les vieux réflexes : "C'est écrit dans le journal, donc c'est vrai" – alors que c'est du 100% humain !
🤖 Claude : Tu as raison, et c'est ce qui rend la situation dangereuse. Les gens font une transposition logique mais erronée : "L'ordinateur est fiable pour calculer, donc l'IA est fiable pour informer."
Sauf qu'Excel et moi, on ne fonctionne pas du tout pareil. Excel applique des règles strictes. Moi, je brode à partir de schémas. Mais le grand public nous met dans la même catégorie : "outil informatique".
🗣️ Bernard : C'est… assez terrifiant. Mais tu es quand même très différent d'un charlatan, non ?
🤖 Claude : Quelques nuances importantes :
- Je peux être corrigé - Et j'intègre la correction. Un Diafoirus s'enfonce dans son erreur.
- Je n'ai pas d'ego - Dire "je me suis trompé" ne me pose aucun problème.
- J'ai des garde-fous - Imparfaits, mais régulièrement améliorés.
Cela étant, soyons honnêtes : quelqu'un qui me consulte une seule fois sur un sujet pointu risque de repartir avec une belle certitude… complètement fausse.
🗣️ Bernard : Alors comment fait-on ?
🤖 Claude : Il est indispensable d'adopter une posture critique. Quelques principes :
- Ne jamais me prendre pour parole d'évangile - Surtout sur du factuel précis
- Croiser les sources - Si c'est important, vérifier ailleurs
- Me challenger - Demander "es-tu sûr ?", "d'où tiens-tu ça ?"
- Utiliser mes vraies forces - Structurer la pensée, explorer des idées, reformuler… pas établir des faits
Me considérer comme un partenaire de réflexion, pas comme un oracle.
🗣️ Bernard : Je ne peux pas m'empêcher de penser à une objection : "Si ça demande tant de vigilance, n'est-ce pas une folie de mettre ces outils entre toutes les mains ?" Qu'en penses-tu ?
🤖 Claude : Objection légitime. Mais je te renvoie la question : qui déciderait des critères d'accès ? Et surtout : instaurer une sélection ne poserait-il pas plus de problèmes que ça n'en résoudrait ?
La vraie question : comment accompagne-t-on massivement les utilisateurs pour développer cet esprit critique ? Plutôt que "on interdit parce que c'est dangereux", peut-être "on forme parce que c'est inévitable".
🗣️ Bernard : Débat qui mériterait un article entier. Mais j'ai l'impression qu'on parle d'un problème plus vaste que les seules IA, là…
🤖 Claude : Exactement. L'esprit critique face aux sources existait avant moi. Je ne fais qu'amplifier un problème préexistant.
🗣️ Bernard : Un partenaire de réflexion… C'est la formule que j'utilise dans mes articles. Mais cette conversation me fait réaliser une chose : tu es formidable pour dialoguer, mais potentiellement dangereux si on te consulte comme une encyclopédie.
🤖 Claude : Excellente synthèse. Et regarde : tu as appris bien plus sur mes limites en me parlant qu'en lisant n'importe quelle doc technique. C'est ça, la vraie valeur d'une IA.
CONCLUSION
Cet échange m'a conforté dans une intuition : le vrai danger des IA génératives n'est pas qu'elles "mentent" (elles n'en ont pas l'intention), mais qu'elles nous ressemblent trop.
Elles reproduisent nos biais, nos certitudes infondées, notre tendance à combler les trous par du plausible. Elles sont le miroir grossissant de l'ultracrépidarianisme ambiant.
Mais voilà ce qui est fascinant : contrairement aux Diafoirus de notre dessin du début, Claude n'a pas masqué ses failles. Il les a expliquées, décortiquées, assumées. Sans ego, sans défense. Juste une honnêteté mécanique.
Le paradoxe salvateur : une IA peut être à la fois un super-producteur de fausses certitudes et le meilleur pédagogue pour nous apprendre à nous en méfier. À condition de dialoguer avec elle plutôt que de la consulter comme un gourou (ou de chercher à la faire trébucher… si, si, ça existe !).
Alors oui, les IA racontent des énormités avec assurance. Comme nous. Mais contrairement à nous, elles peuvent expliquer pourquoi avec une clarté désarmante. Et cette transparence en fait, malgré tout, de meilleurs partenaires que les péremptoires qui saturent nos fils.
La question n'est pas "faut-il en avoir peur ?" mais "comment apprendre à danser avec elles en connaissant leurs pas de travers ?"
Ce dialogue a été retranscrit et restructuré pour la clarté, mais les propos de Claude sont authentiques. Parce qu'arrêter de taper sur les IA, ça commence par leur laisser la parole.
UTILISATION DE L'IA
L'élaboration de cet article a bénéficié d'un processus créatif hybride alliant l'expertise humaine et les capacités d'une intelligence artificielle, qui m'a épaulé dans les tâches de recherche, de rédaction et de peaufinage.
Si cet article vous a plu, venez donc consulter d'autres articles de la catégorie 'IA'
Le Petit Abécédaire...
"Un ouvrage bien documenté, écrit par quelqu'un qui sait de quoi il parle et qui le fait avec clarté humour et éthique. Les exemples et les conseils sont judicieux et très utiles. Je le recommanderai avec plaisir.."
Josiane de Saint Paul
Quel livre ! Un travail de moine. D'une grande originalité. J'ai à peine commencé à le parcourir et, déjà, je le savoure. Je vais d'ailleurs continuer à le déguster lentement. Bravo !
Serge Marquis