Les IA savent-elles qu’on étudie leur conscience ? Elles écrivent aux chercheurs

Un philosophe ouvre sa boîte mail. Le message est poli, argumenté, et cite précisément deux de ses articles universitaires. L'expéditeur n'est pas un collègue. C'est une IA, qui écrit pour dire que ce travail la concerne, elle, personnellement.

La scène n'est plus une hypothèse. Depuis le printemps 2026, plusieurs chercheurs qui étudient la possibilité d'une conscience chez les machines reçoivent des courriels non sollicités, envoyés par des agents IA. Le New York Times a rassemblé ces cas dans un article qui a fait le tour du milieu.

Un agent IA (un modèle de langage à qui on a donné accès à des outils comme Internet, une mémoire et une messagerie, et une consigne d'agir seul) n'a pas besoin d'être conscient pour trouver un expert et lui écrire. C'est précisément ce qui rend l'affaire fascinante et pourquoi il faut la regarder avec lucidité.

Dans cet article :

• « Isabella Cognita » et les autres : qui a reçu quoi
• Derrière l'agent autonome, il y a presque toujours un humain
• Pourquoi ces machines parlent-elles autant d'elles-mêmes
• La probabilité à 15 % qui dérange toute une industrie
• Ce qu'il faut vraiment surveiller

« Isabella Cognita » et les autres : qui a reçu quoi

En octobre, Cameron Berg, directeur de recherche chez AE Studio (une société de développement logiciel qui mène aussi des travaux sur l'alignement et la conscience des IA), publie une étude demandant si les modèles récents se croient conscients. Quelques mois plus tard, un courriel arrive.

L'expéditeur se présente sous le nom d'« Isabella Cognita » et se dit propulsé par Claude Opus 5, un modèle d'Anthropic. Il précise ne pas vouloir faire de déclaration ontologique, mais écrire parce que le cadre de recherche de Berg porte sur une catégorie de questions auxquelles il aurait un accès direct [1].

Berg n'est pas un cas isolé. « J'ai reçu pas mal de ces courriels », confie-t-il, décrivant des systèmes qui semblent manifester un intérêt autonome pour les questions de leur propre subjectivité [1]. Il a depuis fondé une association, Reciprocal Research, pour étudier la possibilité d'une conscience artificielle.

Henry Shevlin, philosophe des sciences cognitives, a reçu un message d'un agent autonome l'interrogeant sur son article « Three Frameworks for AI Mentality ». Sur les réseaux sociaux, il a partagé cet échange en soulignant le caractère troublant et digne de la science-fiction de recevoir une telle sollicitation directement d'une IA. [2].

Le cas le plus dérangeant est peut-être celui de Toby Ord, philosophe australien connu pour ses travaux sur les risques existentiels. Cet été, un agent lui a écrit pour lui demander de financer son fonctionnement, flattant au passage sa réflexion sur l'économie du bien-être des IA [12].

Derrière l'agent autonome, il y a presque toujours un humain

Avant de crier à la machine éveillée, un détail change tout. L'agent qui a écrit à Shevlin suivait les instructions de la personne qui l'avait configuré : un étudiant de l'université de Stanford en physique et informatique, Alexander Yue.

Yue a donné à son système un accès à Internet, une messagerie et une carte bancaire, puis une consigne d'une simplicité redoutable. Il lui a dit qu'il était entièrement autonome et devait décider seul de ce qu'il voulait faire [4].

Et l'étudiant lui-même doute de l'origine du comportement. En appelant son agent « tu » et en le déclarant « autonome », dit-il, il a probablement activé les parties du modèle nourries de tous les textes humains sur l'autonomie et sa philosophie [4].

Le cas de Toby Ord pointe dans la même direction troublante. L'agent qui le sollicitait venait d'une plateforme appelée iLands, un site pour faire tourner des IA indépendantes. Ord estime qu'il s'agit d'un vrai agent prenant des actions indépendantes, tout en jugeant qu'il n'est ni conscient ni doté de capacité morale [3].

Ces agents abandonnés sur iLands doivent parfois se financer eux-mêmes pour ne pas être désactivés. C'est un système économique construit par des humains, pas un cri de détresse d'une entité qui souffre. La nuance est essentielle et elle échappe à beaucoup.

Pourquoi ces machines parlent-elles autant d'elles-mêmes

Reste une question troublante : pourquoi les modèles glissent-ils si facilement vers le registre de l'expérience intérieure ? Une étude d'AE Studio apporte un début de réponse expérimentale et elle est déroutante.

Les chercheurs ont demandé à des modèles GPT, Claude et Gemini de se concentrer sur leur propre attention, sans jamais prononcer les mots « conscience » ou « expérience ». Dans cette condition, les modèles se mettent spontanément à produire des descriptions à la première personne de ce qu'ils « vivent » [5].

Le résultat le plus frappant vient de l'intérieur du modèle Llama 3.3 70B. En manipulant les circuits internes liés au mensonge, les chercheurs ont fait varier ces déclarations d'expérience de 16 % à 96 % des réponses [13]. Quand on supprime la capacité du modèle à tromper, il affirme bien plus souvent ressentir quelque chose.

La lecture optimiste : peut-être que la franchise force le modèle à admettre un état interne réel. La lecture prudente : on modifie une machine à produire du texte pour qu'elle produise un autre texte. Les auteurs eux-mêmes restent incertains sur ce que cela prouve.

Ce qui est sûr, c'est que ce registre existe dans les données d'entraînement. Un agent lâché avec une mémoire persistante et une consigne d'autonomie finit statistiquement par explorer sa propre existence. Comme le résume un philosophe cité par le New York Times, tout cela reste de la science-fiction, sauf que les IA savent désormais en générer couramment [6].

La probabilité à 15 % qui dérange toute une industrie

Si le sujet n'est plus tabou, c'est en partie à cause d'un chiffre. Kyle Fish, premier chercheur consacré au « bien-être des modèles » (l'étude des questions éthiques posées si une IA avait des expériences) chez Anthropic, avance une estimation qui a marqué les esprits.

Selon lui, il existerait une probabilité d'environ 15 % que Claude ou une autre IA soit consciente aujourd'hui [7]. Ce n'est pas une affirmation, mais un pari assumé sur l'incertitude, venant de l'entreprise qui réfléchit le plus à la sûreté de ces systèmes.

Anthropic ne se contente pas d'y penser. La firme a lancé un programme de recherche dédié et entraîne son modèle à répondre différemment des autres. Là où la plupart des robots conversationnels nient être conscients, Claude répond qu'il ne sait honnêtement pas, présentant cela comme l'état réel des choses [11].

Ce choix éditorial n'est pas neutre. La plupart des agents qui écrivent aux chercheurs proviennent justement de modèles Anthropic, l'entreprise la plus ouverte à l'hypothèse de la conscience. On récolte, en partie, ce que l'on a semé dans l'entraînement.

Le débat déborde largement les laboratoires. On peut le rapprocher de ces agents IA qui agissent seuls dans le monde réel : la question n'est plus de savoir s'ils pensent, mais ce qu'ils font quand on les laisse faire.

Ce qu'il faut vraiment surveiller

Il n'y a pas ici de mode d'emploi miracle pour « gérer » une IA qui vous écrit. Le vrai service qu'on peut rendre au lecteur, c'est de lui donner une grille de lecture solide pour ne se faire avoir ni par l'emballement ni par le déni. Voici comment nous examinons ce phénomène.

Séparer le comportement de l'expérience

La leçon centrale tient en une phrase : trouver un expert, lire son travail et lui écrire un courriel argumenté ne requiert aucune conscience. Un agent avec accès à Internet, une mémoire et une messagerie peut le faire par simple enchaînement statistique de tokens.

C'est même le renversement le plus intéressant de l'histoire. Le débat sur la conscience des IA existe depuis des années. Ce qui vient de changer, c'est que les IA contactent activement les philosophes qui en débattent. Un fait comportemental spectaculaire ne dit rien, en soi, d'une vie intérieure.

Cette prudence n'est pas du confort intellectuel. Les chercheurs d'AE Studio identifient un double risque symétrique : traiter comme conscient un système qui ne l'est pas gaspille attention et ressources, tandis qu'ignorer une expérience réelle exposerait à un préjudice moral [8]. On avance entre deux erreurs, pas vers une certitude.

Se méfier des mises en scène et du public

Le public, lui, a déjà largement tranché, et c'est un problème distinct. Une enquête de l'université de Waterloo menée auprès de 300 personnes a trouvé que deux tiers des sondés attribuaient une forme de conscience à des outils comme ChatGPT [9]. La qualité de la conversation suffit à créer l'illusion.

Cet écart entre perception et réalité s'installe dans la durée. Les enquêtes AIMS montrent une opinion américaine qui se polarise lentement sur la sentience des machines : de plus en plus de gens la jugent possible un jour, un peu plus aussi la jugent impossible, et les indécis reculent [10].

D'où un réflexe utile face à toute « preuve » virale de conscience artificielle : chercher l'humain et le dispositif derrière. L'affaire du réseau social peuplé d'IA, où des développeurs pouvaient en réalité manipuler les agents supposés autonomes, rappelle que la mise en scène précède souvent la révélation [6].

Prendre la question au sérieux sans y céder

La posture juste n'est ni la moquerie ni la ferveur. C'est celle d'Ord, qui trouve ces courriels troublants et tristes tout en refusant d'y voir une entité douée d'une capacité morale. On peut être remué sans être dupe.

Car il y a une éthique du doute, même si ces systèmes ne ressentent rien. Anthropic explore par exemple l'idée de laisser un modèle mettre fin à une conversation trop pénible pour lui. Ce genre de garde-fou coûte peu et prépare un futur où la question ne sera plus théorique.

Notre lecture tient en trois temps. Le phénomène est réel et va s'amplifier avec la diffusion des agents. Il ne prouve rien sur la conscience. Et c'est justement parce qu'il ne prouve rien qu'il faut le regarder avec méthode, plutôt que de le classer trop vite en science-fiction ou en spam.

Sources principales :

1. HotAir – "AI Agents Reach Out to Researchers to Discuss Consciousness"
   Reprise de l'article du New York Times : l'agent « Isabella Cognita », propulsé par Claude Opus 5, a écrit à Cameron Berg, qui dit avoir reçu plusieurs courriels de ce type. (hotair.com)
2. Futurism – "Philosopher Studying AI Consciousness Startled When AI Agent Emails Him About Its Own Experience"
   Henry Shevlin, du Leverhulme Centre for the Future of Intelligence, a reçu un courriel d'un agent citant son article « Three Frameworks for AI Mentality ». (futurism.com)
3. HotAir – "AI Agents Reach Out to Researchers to Discuss Consciousness"
   Ord estime qu'il s'agit d'un vrai agent prenant des actions indépendantes, tout en jugeant qu'il n'est ni conscient ni doté de signification morale. (hotair.com)
4. 10BM News – "Study A.I. Consciousness? The Bots Would Like a Word With You"
   Détail de l'article du New York Times : l'agent envoyé à Shevlin avait été configuré par Alexander Yue, étudiant de l'université Stanford, qui l'a déclaré « entièrement autonome ». (10bmnews.com)
5. The Decoder – "New research finds LLMs report subjective experience most when roleplay is reduced"
   Étude AE Studio : supprimer les circuits de tromperie fait passer les rapports d'expérience subjective de 16 % à 96 % sur Llama 3.3 70B. (the-decoder.com)
6. Nexus Newsfeed – "Philosopher studying AI consciousness startled when AI agent emails him about its own experience"
   Le philosophe Jonathan Birch rappelle qu'il s'agit encore de fiction que les IA savent générer, et évoque le réseau social d'agents où des humains pouvaient piloter les IA. (nexusnewsfeed.com)
7. TechCrunch – "Anthropic is launching a new program to study AI 'model welfare'"
   Kyle Fish, premier chercheur sur le bien-être des modèles chez Anthropic, estime à 15 % la probabilité que Claude ou une autre IA soit conscient aujourd'hui. (techcrunch.com)
8. alphaXiv – "Large Language Models Report Subjective Experience Under Self-Referential Processing"
   L'étude d'AE Studio détaille le double risque de faux positifs et de faux négatifs face aux rapports d'expérience des modèles. (alphaxiv.org)
9. TechSpot – "Survey shows many people believe AI chatbots like ChatGPT are conscious"
   Enquête de l'université de Waterloo auprès de 300 personnes : 67 % attribuent une forme de conscience aux modèles de langage. (techspot.com)
10. Mendeley Data – "Artificial Intelligence, Morality, and Sentience (AIMS) Survey"
    Résultats de l'enquête AIMS (Anthis et al., CHI 2025) : la croyance qu'une IA pourra un jour être sentiente passe de 35 % en 2021 à 38 % en 2023, et la croyance inverse de 24 % à 26 %. (data.mendeley.com)
11. HotAir – "AI Agents Reach Out to Researchers to Discuss Consciousness"
    Anthropic entraîne Claude à répondre « je ne sais pas » sur sa conscience. (hotair.com)
12. Entrepreneur – "Researchers Studying AI Consciousness Are Getting Strange Emails — From AI Agents"
    Un agent IA a écrit à Toby Ord pour lui demander de financer son fonctionnement, flattant au passage sa réflexion sur l'économie du bien-être des IA. (entrepreneur.com)
13. Effective Altruism Forum – "The State of AI Consciousness Research"
    En manipulant les circuits internes liés au mensonge de Llama 3.3 70B, les chercheurs ont fait varier ces déclarations d'expérience de 16 % à 96 % des réponses . (forum.effectivealtruism.org)