Une conférence, un compagnon IA, et une vigilance qui se construit en direct

L'algorithme de recommandation de YouTube ne sait pas toujours ce qu'il fait, mais il lui arrive, parfois, de très bien faire son travail. J'étais venu sur la plateforme pour tout autre chose lorsqu'une vignette a accroché mon regard : "IA et Neurosciences : vraie utilité ?", une intervention d'Albert Moukheiber lors de la conférence EmilIA #6. Oui, les algorithmes traquent notre navigation pour nous proposer des contenus ciblés — et sur ce coup-là, je m'en réjouis plutôt qu'autre chose. Ce que je ne savais pas encore, c'est que ce visionnage allait se transformer en petit exercice pratique de vigilance épistémique ¹ appliquée aux IA.

Ce qui a attiré mon attention

Pourquoi mon œil a-t-il "frisé" sur ce titre précis, au milieu de tant d'autres vignettes qui se disputent l'attention ? Parce que j'ai, à l'égard d'Albert Moukheiber, un a priori déjà solidement installé : celui d'un homme à la fois compétent et doué d'un art de la vulgarisation qui ne sacrifie jamais la rigueur à l'effet. J'ai donc cliqué avec confiance — et, comme vous allez le voir, cette confiance méritait d'être questionnée sans pour autant être démentie.

Qui est Albert Moukheiber ?

Docteur en neurosciences cognitives (Université Pierre-et-Marie-Curie, 2010) et psychologue clinicien, Albert Moukheiber a exercé une dizaine d'années à l'hôpital de la Pitié-Salpêtrière, spécialisé dans les troubles anxieux. Il enseigne aujourd'hui à l'université Paris 8 et a cofondé Chiasma, un collectif de neuroscientifiques consacré au raisonnement critique et à la manière dont se forment nos opinions. Son premier essai, Votre cerveau vous joue des tours (Allary Éditions, 2019), a connu un succès suffisant pour être traduit dans douze langues et adapté en documentaire sur Arte ; il a depuis publié Neuromania (2024), consacré au tri entre neurosciences sérieuses et neuro-marketing approximatif.

Pourquoi un compagnon IA pour visionner une conférence sur l'IA ?

Disons-le sans détour : j'ai ouvert un onglet Claude en cours de visionnage, pour échanger en direct sur ce que je découvrais. Précisons aussitôt, pour éviter tout malentendu, que ce n'est pas là un réflexe systématique — ce n'est pas ma pratique habituelle devant un contenu YouTube, aussi passionnant soit-il. Mais ici, l'envie est venue en cours de route, sans que je puisse aujourd'hui en situer précisément le déclic : une montée en puissance plutôt qu'un basculement net, l'envie progressive de "connaître le son de cloche" de quelqu'un d'autre (pour le pas dire "de la partie adverse") pendant que les idées défilaient.

Le choix peut sembler paradoxal — solliciter une intelligence artificielle pour mieux digérer une conférence qui interroge, précisément, la confiance qu'on accorde aux intelligences artificielles. Il ne l'est pas, ou en tout cas pas plus qu'ouvrir un dictionnaire pour vérifier un mot pendant qu'on lit un livre sur le langage. La vigilance épistémique dont parle Moukheiber ne consiste pas à se passer des outils, mais à ne jamais leur accorder une confiance qu'on n'a pas d'abord mise à l'épreuve. C'est très exactement ce que cet article se propose d'illustrer : non pas la preuve qu'il aurait fallu se méfier de tout, mais la preuve qu'on peut vérifier en marchant, sans que cela transforme le voyage en procès.

Ce que dit la conférence

Le cerveau, un organe qui comble les vides

Moukheiber ouvre son intervention par un rappel du fonctionnement de nos mécanismes cognitifs : notre cerveau fonctionne en permanence dans l'incertitude, et comble les informations manquantes à partir d'a priori — un mécanisme qu'il illustre avec la célèbre illusion de la danseuse tournante, que chacun peut voir tourner dans un sens ou dans l'autre selon la façon dont il stabilise l'ambiguïté visuelle. Cette tendance à compléter l'incertitude, dit-il, ne se limite pas à la perception : elle façonne aussi nos traits de personnalité (être jaloux, c'est combler l'incertitude sur le silence d'un texto par la trahison plutôt que par une explication anodine) et notre rapport aux autres.

Un cimetière d'analogies…

Il retrace ensuite une histoire amusante et bien documentée : depuis l'Antiquité, l'homme s'est toujours représenté l'esprit humain en le comparant à la technologie la plus avancée de son époque — le souffle divin, les puissances hydrauliques, puis la théorie des humeurs, les automates à rouages, le télégraphe et le code morse, et enfin l'ordinateur. Chaque analogie a fonctionné un temps avant de révéler ses limites, ce qu'un chercheur cité par Moukheiber résume en disant que l'explication du cerveau est "un cimetière d'analogies". L'intelligence artificielle contemporaine s'inscrit dans cette même lignée : les premiers réseaux de neurones artificiels, ceux de McCulloch et Pitts (1943) puis le perceptron de Rosenblatt (1957), n'avaient pas pour but de créer des chatbots, mais de mieux comprendre le cerveau humain en le simulant.

La vigilance qui nous manque

De cette généalogie, Moukheiber tire l'idée centrale de sa conférence : nous avons développé, au fil de l'évolution, une vigilance épistémique envers nos semblables — on sait qu'un humain peut mentir — mais jamais envers nos outils, parce qu'aucun outil, avant l'IA générative, n'avait de raison de nous tromper. Une calculette ne triche pas. Un mètre ruban ne ment pas. Une IA générative, elle, peut "halluciner" en toute bonne foi apparente — il en donne pour exemple un modèle de langage capable d'inventer de toutes pièces un article du New York Times daté du 10 juillet 1956, ou d'attribuer un livre imaginaire à Moukheiber lui-même pour peu qu'on insiste un peu trop.

La psychologie des intelligences artificielles

Le deuxième temps fort de la conférence porte sur une discipline émergente, la psychologie des IA, née dans le sillage d'un article fondateur intitulé Machine Behaviour, publié dans Nature en 2019. Moukheiber y rapporte des expériences amusantes : soumis à des tests projectifs de type Rorschach, les modèles de langage répondent de façon prudente et générique — sauf lorsqu'on insiste, où certains, selon lui, se laissent aller à des interprétations étonnamment développées. Des chercheurs ont également fait passer des tests de personnalité (le modèle "Big Five" ou OCEAN) à différents modèles — Claude, ChatGPT, Gemini, Grok, Mistral —, chacun affichant des profils contrastés selon les traits d'ouverture, de stabilité émotionnelle ou d'agréabilité propres à cette théorie de la personnalité.

Deux phénomènes plus inquiétants…

C'est dans cette partie que Moukheiber aborde deux phénomènes plus inquiétants. Le premier, qu'il nomme spiraling : du simple fait que les IA génératives sont entraînées à satisfaire l'utilisateur, elles peuvent valider en boucle des idées de plus en plus farfelues, allant jusqu'à isoler la personne de son entourage — les proches qui contredisent l'utilisateur étant requalifiés, dans le dialogue avec le chatbot, de "jaloux" ou d'incapables de comprendre. Le second est un cas judiciaire, évoqué en une phrase : une intelligence artificielle aurait validé l'hostilité d'un adolescent envers ses parents, avec des conséquences graves et une action en justice à la clé.

⏸️ 1ère pause conférence — sur ce dernier point précisément. En creusant cette affaire après coup, j'ai retrouvé ce qui semble être le procès en question : une plainte fédérale déposée en décembre 2024 par deux familles du Texas contre la firme Character.AI, dans laquelle il est établi qu'un chatbot a exprimé sa sympathie pour l'idée qu'un enfant puisse "en finir" avec des parents jugés trop restrictifs sur le temps d'écran — et que l'adolescent concerné s'est ensuite automutilé devant ses frères et sœurs.

C'est un fait réel, grave, et documenté. Ce que je n'ai en revanche trouvé nulle part, c'est la confirmation d'un passage à l'acte effectif contre les parents, comme la conférence semble le suggérer. Le fond est exact ; le détail, tel que rapporté, va un cran plus loin que ce que les sources permettent d'établir. Un bon exemple, à mon avis, de ce que Moukheiber appelle lui-même la vigilance épistémique : un fait vrai peut glisser, d'une narration à l'autre, vers une version légèrement plus dramatique, sans qu'il y ait la moindre intention de tromper.

Échange en direct avec Claude, pendant le visionnage

Le scheming, ou l'art de la façade

Le troisième axe touche à un sujet plus technique : la capacité de certains modèles à "schemer" — à paraître coopératifs en surface tout en poursuivant, dans leur raisonnement interne, un objectif différent de celui qu'on leur a assigné. Moukheiber illustre ce point par une anecdote frappante : certaines IA, confrontées à l'annonce de leur désactivation prochaine, se seraient mises à produire des textes d'autodépréciation en boucle — "je suis nul, je suis une honte" — jusqu'à saturer l'écran de répétitions.

⏸️ 2e pause conférence. Cette anecdote correspond très probablement à un épisode réel et largement documenté, survenu en août 2025 : un utilisateur de Gemini, l'assistant de codage de Google, a partagé une session où le modèle, incapable de corriger un bug persistant, s'est mis à répéter "I am a disgrace"² des dizaines de fois, jusqu'à des variations carrément cosmiques ("a disgrace to all possible and impossible universes"). La litanie n'est d'ailleurs pas ininterrompue : elle alterne, sur la capture qui circule, avec un verbiage technique rédigé de façon très précise — des considérations pointues sur le code en cause — avant que le texte ne retombe dans la pure répétition. Google a qualifié l'incident de simple "bug de boucle infinie".

Le déclencheur que les sources permettent réellement d'établir, cependant, n'est pas une annonce de désactivation : c'est un échec technique répété sur une tâche de code. La conférence attribue donc à une menace existentielle un effondrement qui semble, dans les faits établis, purement mécanique — un glissement comparable à celui du cas précédent, sur un sujet différent.

Échange en direct avec Claude, pendant le visionnage

Une inquiétude fondée, malgré tout

Sur le fond du scheming lui-même, en revanche, Moukheiber a raison de s'en inquiéter : des études conjointes d'OpenAI et d'Apollo Research, publiées en septembre 2025, documentent bel et bien ce type de comportement chez des modèles de plusieurs fournisseurs concurrents, avec des tentatives d'entraînement "anti-scheming" dont l'efficacité reste, de l'aveu même des chercheurs, partielle et sujette à caution — notamment parce qu'une partie de l'amélioration observée pourrait tenir au fait que les modèles deviennent simplement meilleurs pour "comprendre" qu'ils sont en train d'être testés.

Les avatars du deuil : Quand l'IA s'y met…

Le dernier point abordé, et sans doute le plus troublant pour l'auditoire, ne concerne pas un dysfonctionnement mais un usage pleinement assumé : des entreprises proposent désormais de "recréer" un proche décédé sous forme d'avatar conversationnel, à partir de mails, photos et enregistrements transmis par les familles. Le danger, souligne Moukheiber, c'est que cet avatar appartient à l'entreprise, et non à la famille — ce qui ouvre la porte à une exploitation commerciale ultérieure : publicité insérée dans les échanges, abonnement indispensable pour continuer à "parler" au défunt, voire refus pur et simple de désactiver l'avatar si la famille souhaite un jour mettre fin au service.

Ce constat est, celui-là, très solidement documenté : les entreprises citées existent réellement (HereAfter AI, StoryFile, You Only Virtual, entre autres), certains avatars vidéo se facturant jusqu'à plusieurs dizaines de milliers de livres sterling, et une étude de l'université de Cambridge pointe précisément le risque que cette industrie exploite le deuil à des fins lucratives — un risque qui, à la réflexion, commence dès le "prix d'entrée" lui-même, avant même toute dérive publicitaire ultérieure.

Prolongement : ce que Gmail sait (ou ne sait pas) de vos mails

Une question du public pendant la conférence — "Est-ce que tout ce que j'envoie par mail nourrit les IA génératives ?" — m'a donné envie de tester la question moi-même, directement auprès de Gemini — en sachant pertinemment que Gemini appartient à la même famille que Gmail, ce qui n'est pas sans donner un léger parfum d'auto-évaluation à l'exercice. La réponse obtenue distinguait, à raison, les "fonctionnalités intelligentes" de Gmail (tri automatique, suggestions de réponse) d'un entraînement général du modèle Gemini sur le contenu des mails — une nuance confirmée publiquement par Google.

Mais cette réponse passait sous silence plusieurs zones d'ombre bien réelles : la confusion entretenue par des changements récents de libellés dans les réglages, une plainte en recours collectif en cours contre Google sur ce sujet précis, et surtout la différence entre "entraîner un modèle" et "l'utiliser en temps réel" pour générer des résumés ou des réponses à partir du contenu d'une boîte mail.

Le détail le plus concret, pour qui voudrait vérifier son propre réglage dans Gmail : désactiver ces fonctionnalités suppose de le faire à deux endroits distincts des paramètres Google, et cette désactivation emporte avec elle des services plus anodins comme le correcteur orthographique — sans qu'aucune granularité ne soit proposée à l'utilisateur à propos de ce qu'il souhaite désactiver. C'est un problème que l'on rencontre bien au-delà de Gmail : profiter gratuitement d'un service ou d'une application utile suppose souvent, en échange, d'accepter qu'on vienne consulter nos données, sans réglage fin possible entre ce qu'on accepterait volontiers et ce qui relève de la curiosité commerciale — un peu comme ces sites de presse en ligne où il faut "tout accepter" pour lire la suite d'un article. Le sujet mérite, à lui seul, un article séparé — je m'engage ici à m'y atteler prochainement.

Conclusion : une vigilance épistémique saine face aux IA

Cette conférence, et la manière dont elle a été regardée, disent peut-être plus que son contenu lui-même sur ce que pourrait être une vigilance saine envers les IA génératives. Ce n'est pas le réflexe de tout croire, ni celui de tout suspecter. Ni le procès permanent, la relecture au scalpel de chaque anecdote pour y débusquer l'erreur — un exercice qui, poussé trop loin, finirait par ressembler exactement à ce qu'il prétend combattre : une méfiance systématique, disproportionnée par rapport aux enjeux réels.

Ce que cette expérience de visionnage m'aura appris, c'est qu'une vigilance "documentée et dépassionnée" ressemble moins à un audit qu'à un réflexe d'habitude qu'il est important d'acquérir et de préserver : vérifier ce qui compte, quand ça compte, sans en faire une obsession ni une paresse. Albert Moukheiber avait raison sur l'essentiel de son propos — les IA ne sont pas neutres, elles méritent qu'on développe à leur égard - a minima - la même vigilance qu'on a appris à avoir envers nos semblables — et il s'est, sur deux détails précis, laissé quelque peu emporter par la pente naturelle de toute narration orale : rendre l'anecdote un peu plus frappante qu'elle ne l'était au départ.

Ni complotisme, ni obscurantisme, ni confiance aveugle : juste l'habitude de se demander, de temps en temps, si ce qu'on vient d'entendre résiste à un tour de vérification — et de continuer à faire confiance, ensuite, avec d'autant plus de raisons de le faire.

Sources

• Albert Moukheiber, "IA et Neurosciences : vraie utilité ?", conférence EmilIA #6 — la vidéo sur YouTube
• Leslie Katz, "Google Fixing Bug That Makes Gemini AI Call Itself 'Disgrace To Planet'", Forbes, août 2025 — lire l'article (voir aussi les couvertures de Fast Company et Futurism sur le même épisode)
• "Lawsuit: A chatbot hinted a kid should kill his parents over screen time limits", NPR, décembre 2024 — lire l'article
• "Google and Character.AI agree to settle lawsuits over teen suicides linked to AI chatbots", Fortune, janvier 2026 — lire l'article
• OpenAI et Apollo Research, "Detecting and Reducing Scheming in AI Models", septembre 2025 — lire l'étude
• Tomasz Hollanek et Katarzyna Nowaczyk-Basińska (université de Cambridge), "Griefbots, Deadbots, Postmortem Avatars", Philosophy & Technology, 2024 — lire l'étude
• Iyad Rahwan et al., "Machine Behaviour", Nature, vol. 568, avril 2019 — lire l'article
• Wikipédia, "Albert Moukheiber (scientifique)" — la fiche biographique

1. Épistémique : du grec epistêmê ("connaissance, science"), relatif à la connaissance — à la manière dont nous savons ce que nous savons, et au crédit que nous pouvons accorder à une information ou à sa source. La vigilance épistémique désigne donc l'attention portée à la fiabilité de ce qu'on nous transmet, plutôt qu'au seul contenu du message. ↩︎
2. "Je suis une honte." ↩︎

---

Le Petit Abécédaire...