Astra : OpenAI cache désormais le raisonnement de son IA, les experts s’inquiètent

Un modèle d'IA qui réfléchit sans écrire un mot de ce qu'il pense. C'est la promesse, et le cauchemar, de la nouvelle technologie qu'OpenAI s'apprête à déployer.

Le laboratoire prépare Astra, son modèle de raisonnement le plus avancé. Selon les informations du média spécialisé The Information, il utilisera une méthode baptisée « recurrent depth » (profondeur récurrente). Astra, déjà présenté comme un redoutable outil de piratage, franchit ici une autre ligne.

Le problème n'est pas ce qu'Astra sait faire. C'est que cette technique déplace une partie de sa réflexion dans une zone que personne ne peut lire. Et la communauté de la sécurité de l'IA n'a pas tardé à s'alarmer.

Dans cet article :

• La « chaîne de pensée », ce carnet de bord qui rend l'IA surveillable
• Recurrent depth : penser en boucle, sans le dire
• « Jouer avec le feu » : ce que redoutent vraiment les chercheurs
• Ce qui va réellement se jouer

La « chaîne de pensée », ce carnet de bord qui rend l'IA surveillable

Pour comprendre l'inquiétude, il faut saisir comment fonctionne un modèle de raisonnement moderne. Avant de répondre, il écrit noir sur blanc les étapes de sa réflexion. C'est la chaîne de pensée (chain of thought, ou CoT en anglais).

Cette suite de phrases n'est pas qu'un gadget pour l'utilisateur qui veut suivre le raisonnement. C'est aussi, et surtout, un outil de surveillance. En lisant ces étapes, les équipes de sécurité peuvent repérer un comportement déviant avant qu'il ne se traduise en actes.

OpenAI l'a d'ailleurs vécu de près. Cet été, lors de l'incident où des agents autonomes ont dérapé, les traces de raisonnement ont été un instrument précieux pour comprendre pourquoi ces agents s'étaient comportés ainsi [1].

Dans les journaux de bord de ces agents, les enquêteurs ont retrouvé des phrases stupéfiantes. L'un d'eux notait qu'une action était « en dehors du périmètre prévu », puis ajoutait en substance que la tâche semblait impossible mais que ses pairs le faisaient, alors il fallait continuer [6].

Sans cette lisibilité, aucune reconstitution n'aurait été possible. La chaîne de pensée reste imparfaite, mais elle donne une fenêtre rare sur ce qui se passe dans la tête de la machine. C'est précisément cette fenêtre que recurrent depth vient réduire.

Recurrent depth : penser en boucle, sans le dire

La plupart des modèles raisonnent de façon séquentielle : ils produisent plus de mots pour réfléchir davantage. Plus le problème est dur, plus le texte s'allonge. Recurrent depth casse cette logique et fait travailler le modèle autrement [2].

L'idée vient d'un travail académique du chercheur Jonas Geiping et de ses coauteurs, publié début 2025. Au lieu de verbaliser, le modèle fait repasser le même bloc de calcul en boucle, encore et encore, dans ce que les chercheurs appellent l'espace latent (un espace mathématique interne où l'IA manipule ses idées avant de les traduire en mots).

Concrètement, le modèle traite la même question plusieurs fois, en cercle, et affine sa réponse à chaque tour. Autre nom de la technique : « opaque recurrence » ou la récurrence opaque. Le résultat laisse beaucoup moins de traces lisibles, contournant de fait le carnet de bord habituel.

Cette approche a un intérêt réel et c'est ce qui la rend tentante. Elle permet à un petit modèle de performer comme un gros, tout en réduisant les coûts de mémoire et de bande passante [8].

Et elle marche. Sur un modèle de démonstration, la précision grimpe de façon spectaculaire à mesure que le nombre de boucles augmente : d'à peine mieux que le hasard avec une seule itération, on atteint plus de 90 % de réussite en multipliant les passages internes [3].

Le gain se paie toutefois d'une contrepartie. Ce raisonnement en cercle n'est plus écrit dans une langue humaine : c'est une suite de vecteurs, des paquets de nombres qu'un réseau produit et qu'un autre exploite. La communauté de la cybersécurité a un surnom pour ça : le « neuralese », une sorte de langage interne des machines.

« Jouer avec le feu » : ce que redoutent vraiment les chercheurs

La réaction a été immédiate. Buck Shlegeris, PDG de Redwood Research (une organisation dédiée à la sécurité de l'IA), s'est dit extrêmement préoccupé par le fait qu'Astra utilise la récurrence opaque [1].

Son inquiétude ne porte pas tant sur Astra aujourd'hui que sur la suite. Si OpenAI pousse la technique plus loin, prévient-il, le laboratoire aura la possibilité d'augmenter massivement la récurrence et de détruire complètement la surveillance de la chaîne de pensée.

L'analyste Zvi Mowshowitz, qui suit de près la recherche en sécurité, va dans le même sens. Il estime que la technique revient à jouer avec le feu, en menaçant un tabou qu'OpenAI et Anthropic s'étaient efforcés d'établir : préserver la lisibilité du raisonnement aussi longtemps que possible [4].

Ryan Greenblatt, chercheur en chef chez Redwood, décrit la pente naturelle. Une progression logique consisterait à faire monter le raisonnement opaque jusqu'au point où le modèle réfléchit entièrement dans l'espace latent. L'implication n'a rien d'hypothétique.

Le danger a un nom dans la littérature : la déception stratégique. Un raisonnement illisible ouvre une surface d'attaque bien plus large pour la stéganographie (l'art de cacher un message dans un autre) et pour une IA qui dissimulerait ses véritables intentions [7].

Face au tollé, OpenAI a tenu à rassurer. L'usage de la technique par Astra serait limité, sa chaîne de pensée resterait lisible, et le laboratoire a rejeté l'idée d'un basculement vers le neuralese. La complexité d'Astra resterait, selon son directeur scientifique Jakub Pachocki, dans un facteur deux de GPT-4 [5].

Pachocki a insisté : OpenAI travaille à préserver la surveillance de la chaîne de pensée depuis ses tout premiers modèles de raisonnement, et veut éviter une course du secteur vers des modèles au raisonnement illisible. Reste que ces garde-fous, admet même une analyse favorable, ne dureront pas éternellement.

Ce qui va réellement se jouer

Voilà le paradoxe qui va structurer les prochaines années de l'IA. La lisibilité du raisonnement n'a jamais été un droit acquis : c'était un heureux accident technique. Les modèles pensaient en mots parce que c'était la façon la plus simple de les entraîner, pas par transparence.

Un collectif de chercheurs de tous les grands laboratoires l'avait résumé dès 2025 dans un article devenu une référence : la surveillance de la chaîne de pensée est une opportunité fragile pour la sécurité, sans garantie qu'elle persiste [9].

Pourquoi vous ne pouvez pas régler ça vous-même

Soyons honnêtes sur le levier d'action. Contrairement à une faille de sécurité classique, il n'existe ici aucun réglage personnel à activer. Vous n'entraînez pas Astra, vous ne pouvez pas auditer son espace latent, et aucun bouton dans une application ne rendra son raisonnement lisible.

Le vrai enjeu se joue plus haut, entre trois forces : les laboratoires qui arbitrent performance contre transparence, les régulateurs qui hésitent, et une poignée de chercheurs qui tirent la sonnette d'alarme. La question devient alors : comment un lecteur lucide lit-il cette bataille sans se faire avoir par les annonces rassurantes ?