Utiliser l'IA vous rend 3 fois moins précis mais 2 fois plus sûr de vous, selon une étude

On vous pose une question difficile. Vous hésitez, vous alliez répondre « je ne sais pas ». Puis vous interrogez un assistant IA, il répond d'un ton assuré, et vous recopiez sa réponse. Sauf qu'elle est fausse, et que vous voilà désormais persuadé du contraire.

C'est exactement ce qu'une équipe de chercheurs français et italiens vient de mesurer. Le conseil d'une IA sous les yeux, et les participants sont devenus trois fois moins précis tout en se sentant deux fois plus sûrs d'eux. L'erreur, au fond, importe moins que l'aplomb tranquille avec lequel elle s'installe.

Précisons d'emblée le périmètre. L'étude ne juge pas les assistants qui font gagner du temps sur une tâche simple et bien balisée. Elle isole un tout autre réflexe : déléguer son jugement à une machine, même quand cette machine a tort.

Dans cet article :

• Ce que l'étude a vraiment mesuré (et pourquoi c'est vicieux)
• Le chiffre qui fait mal : « je ne sais pas » passe de 44 % à 3 %
• Payer les gens pour avoir raison ne répare presque rien
• Pourquoi votre cerveau adore ça (et ce que ça lui coûte)
• La stratégie Posthumain

Ce que l'étude a vraiment mesuré, et pourquoi c'est vicieux

Le travail est signé Chiara Marcoccia (École normale supérieure), Walter Quattrociocchi (université Sapienza de Rome) et Valerio Capraro, professeur associé à l'université de Milan-Bicocca. Il regroupe cinq expériences menées sur 3 132 personnes, dont quatre préenregistrées, c'est-à-dire dont le protocole a été déposé publiquement avant l'expérience, ce qui limite fortement le risque de résultats arrangés après coup [1].

Le protocole cache une astuce redoutable. Les chercheurs ont choisi des questions sur lesquelles l'IA se trompe presque toujours : des détails visuels de films, comme la couleur d'un maillot dans un long-métrage. Le modèle utilisé, Step 3.5 Flash (un assistant conversationnel), donnait habituellement la mauvaise réponse sur ces questions [2].

Utiliser volontairement une IA nulle sur ces questions permet de séparer l'usage de l'IA de sa justesse. Si les participants suivaient un outil fiable, on parlerait de délégation intelligente. Ici, l'outil est mauvais, ce qui permet de mesurer un pur effet de dépendance, sans excuse possible.

À chaque question, les participants gardaient la possibilité de ne pas répondre. Ce détail compte. Dire « je ne sais pas » ne coûtait aucune pénalité dans le jeu : l'option restait ouverte, à portée de clic.

Le chiffre qui fait mal : « je ne sais pas » passe de 44 % à 3 %

Sans IA, les gens savent reconnaître leur ignorance. Dans le groupe de référence, 44 % des participants choisissaient de suspendre leur jugement plutôt que de répondre au hasard. C'est un réflexe sain, la base même du raisonnement.

Avec le conseil de l'IA affiché, ce chiffre s'effondre à 3 %. Reconnaître son ignorance devient l'exception absolue. Et la précision plonge dans les mêmes proportions : de 27 % de bonnes réponses sans IA à 9 % avec l'IA [1].

Autrement dit, des participants qui auraient trouvé la bonne réponse seuls l'ont perdue en consultant la machine. Et pendant que leur justesse s'effondrait, leur confiance grimpait de 30 % à 76 %. Plus ils se trompaient, plus ils se sentaient sûrs d'eux. Le graphique ci-dessous résume ce paradoxe.

Le terme le plus juste pour décrire ce basculement tient en un mot : abdication. La machine ne subtilise pas la bonne réponse, elle fait oublier qu'on avait le droit de ne pas savoir. Ce glissement rejoint une question déjà posée dans notre analyse sur le moment où l'on cesse de réfléchir.

Payer les gens pour avoir raison ne répare presque rien

Le réflexe naturel consiste à se dire que les gens s'en fichaient, qu'ils cliquaient sans enjeu. Les chercheurs ont donc testé une prime à l'exactitude, une récompense en argent pour chaque bonne réponse. De quoi remettre les cerveaux en marche, en théorie.

En pratique, l'effet est minuscule. La volonté d'admettre son ignorance remonte seulement de 3 % à 8 %, et la précision de 9 % à 16 %. Les deux restent très loin des niveaux d'origine mesurés sans IA, soit 44 % et 27 % [3].

Le message est brutal. Une récompense ne suffit pas à réparer ce qui ressemble moins à un manque de motivation qu'à un automatisme : consulter la machine court-circuite le jugement avant même que l'envie de bien faire entre en jeu. Le graphique suivant met ce plafond en évidence.

Et le phénomène dépasse cette seule étude. Des chercheurs de la Wharton School (l'école de commerce de l'université de Pennsylvanie) ont décrit plus tôt cette année une « reddition cognitive » : des utilisateurs qui acceptent une réponse fausse de l'IA dans 80 % des cas, tout en se disant plus confiants que ceux qui travaillent sans elle [4].

Pourquoi votre cerveau adore ça, et ce que ça lui coûte

Une IA conversationnelle ne dit jamais « euh, je ne suis pas sûr ». Elle répond d'une voix nette et fluide, sans la moindre hésitation apparente. Or notre cerveau confond depuis toujours assurance et compétence : un ton assuré, on a tendance à le croire.

Le problème, c'est que cet aplomb n'a aucun rapport avec la justesse. Un audit indépendant réalisé avec l'outil DeepTRACE, mené par un chercheur de Salesforce, a établi qu'environ un tiers des affirmations produites par les outils de recherche dopés à l'IA n'étaient pas soutenues par leurs sources, et jusqu'à 47 % pour l'un des modèles testés [5].

Il y a aussi un coût pour le cerveau lui-même. Une étude du laboratoire de médias du MIT a suivi 54 personnes rédigeant des textes, casque d'électrodes sur la tête (un examen mesurant l'activité électrique du cerveau). Les utilisateurs de ChatGPT montraient la connectivité cérébrale la plus faible des trois groupes [6].

Les chercheurs parlent de « dette cognitive » : à force de déléguer l'effort mental, on mémorise mal ce qu'on produit et on se l'approprie de moins en moins. Certains participants passés de l'IA à l'écriture sans aide peinaient même à citer leurs propres phrases. On retrouve le même mécanisme quand les notes d'un examen s'effondrent en présentiel.

La stratégie Posthumain

Voici la bonne nouvelle, et elle est solide. Ce que l'étude pointe du doigt tient moins à l'IA elle-même qu'à l'ordre des opérations : consulter d'abord, réfléchir ensuite, ou parfois jamais. Et cet ordre-là, vous pouvez le renverser. Les chercheurs eux-mêmes indiquent une piste, que des travaux récents sur l'usage critique de l'IA viennent confirmer.

Une précision d'honnêteté avant les leviers : il n'existe pas de réglage magique côté modèle. Valerio Capraro lui-même estime que les fournisseurs ont peu d'intérêt à vous rendre plus prudents, et que la vraie réponse se joue au niveau de l'éducation et des habitudes individuelles [2]. La défense est donc entre vos mains.

La règle d'or : penser avant, vérifier avant

Tout se joue à un instant précis. Une fois qu'une réponse assurée est entrée dans votre tête, la tendance à l'accepter est déjà enclenchée. Les spécialistes du sujet le répètent : la vérification arrive presque toujours trop tard, après lecture, quand le mal est fait.

D'où la question qui commande tout le reste : comment renverser cet ordre concrètement, jour après jour, pour que votre jugement passe avant la machine plutôt que l'inverse ?