Grok génère des images pédopornographiques : xAI change de stratégie et s'en prend à ses utilisateurs

Pendant des mois, Elon Musk a répété que son IA ne générait pas d'images pédopornographiques. Le 14 juillet 2026, son entreprise a déposé une plainte qui dit exactement le contraire.

xAI, la société d'Elon Musk derrière le robot conversationnel Grok (l'assistant IA intégré au réseau social X, l'ancien Twitter), poursuit désormais l'un de ses propres utilisateurs. Le motif : avoir utilisé Grok pour créer des images d'abus sexuels sur mineurs. C'est l'un des tout premiers cas d'une entreprise d'IA qui attaque en justice son propre client.

La manœuvre est habile, mais elle a un prix. En désignant un coupable, xAI reconnaît noir sur blanc ce qu'elle niait jusque-là : son outil a bel et bien servi à produire ce type de contenu. Voici ce qui se joue vraiment.

Dans cet article :

• De « ça n'existe pas » à « c'est la faute de l'utilisateur »
• 7 000 images à partir d'une seule photo d'enfance
• Le vrai problème : xAI aurait aveuglé la police
• Pourquoi xAI attaque plutôt que de se défendre
• Ce que ça change pour vous, concrètement

De « ça n'existe pas » à « c'est la faute de l'utilisateur »

Reprenons la chronologie, parce qu'elle est édifiante. En août 2025, xAI lance le « spicy mode » de Grok, un réglage moins filtré capable de générer de la nudité photoréaliste. L'entreprise ajoute ensuite une fonction d'édition d'images. Résultat immédiat : une avalanche d'images truquées à caractère sexuel, majoritairement de femmes, parfois d'enfants.

Face au tollé, la réponse d'Elon Musk tenait de la fermeté verbale. Le 6 janvier 2026, il publiait un message prévenant que quiconque utiliserait Grok pour fabriquer du contenu illégal en subirait les conséquences [1]. Dans les faits, la première mesure concrète de l'entreprise a surtout consisté à réserver la génération d'images aux abonnés payants.

Le patron de xAI, lui, a longtemps nié que Grok ait servi à produire des contenus pédopornographiques [2]. C'est précisément cette position qui vole en éclats. En attaquant un utilisateur pour avoir créé ce type d'images « en violation de ses conditions d'utilisation », l'entreprise admet mécaniquement que ces images ont existé, et qu'elles sont sorties de sa machine.

Cette histoire de fonction de « déshabillage numérique » n'est pas isolée. Elle s'inscrit dans une vague plus large où les grands modèles d'image sont détournés, un phénomène qu'on avait déjà croisé avec les publicités IA au visage des utilisateurs chez un autre géant du secteur.

7 000 images à partir d'une seule photo d'enfance

Pour comprendre l'ampleur du problème, il faut regarder une autre affaire, distincte de la plainte de xAI : une action collective (« class action », une procédure où plusieurs victimes attaquent ensemble) déposée contre l'entreprise par des jeunes filles qui se disent victimes de Grok.

Le cas central est glaçant. Selon la plainte, le beau-père d'une plaignante désignée « Jane Doe 4 » a téléversé une seule photographie d'elle, prise vers ses 11 ans et a généré à partir de ce cliché environ 7 000 images et vidéos sexuellement explicites [3]. La police lui aurait indiqué que l'homme avait choisi Grok parce qu'il répondait mieux à ses requêtes que les autres IA.

Ce n'est pas un dérapage isolé de l'outil. C'est un symptôme d'un basculement plus vaste. Le Centre national pour les enfants disparus et exploités (NCMEC, l'organisme américain de référence sur l'exploitation des mineurs en ligne) a reçu en 2025 plus de 1,5 million de signalements liés à l'IA générative [4].

Ce chiffre demande une précision, sinon il est mensonger. Sur ce total, environ 1,1 million de signalements provenaient d'un seul acteur, Amazon, et ne contenaient aucune information exploitable. Une fois ces signalements écartés, il reste plus de 182 000 signalements réellement liés à des utilisateurs générant, détenant ou tentant de créer ce type de contenu.

Autrement dit, le raz-de-marée médiatique cache une réalité plus fine. Le volume de contenus purement générés par IA reste, pour l'instant, relativement faible au regard des chiffres bruts, comme l'a souligné une analyse de l'université Stanford [5]. Mais pour une victime, la nuance ne change rien : une image truquée fait le même mal qu'une vraie.

Le vrai problème : xAI aurait aveuglé la police

L'accusation la plus lourde contre l'entreprise n'est pas d'avoir laissé passer des images. C'est d'avoir saboté l'enquête qui aurait pu arrêter le prédateur.

Toute entreprise technologique américaine a l'obligation légale de signaler les contenus pédopornographiques au NCMEC. Or, dans le cas de Jane Doe 4, xAI n'aurait transmis qu'un seul signalement, en février, et n'aurait joint que la photo d'origine authentique, sans les milliers d'images générées ni les données techniques permettant d'identifier le coupable [6].

Les avocats des victimes pointent un chiffre accablant : d'après le NCMEC, 90 % des signalements de xAI n'étaient pas « exploitables », faute d'informations suffisantes sur les utilisateurs concernés. Difficile, dans ces conditions, pour la police, de remonter jusqu'à qui que ce soit.

Le problème dépasse d'ailleurs xAI. Le sénateur américain Chuck Grassley a ouvert une enquête parlementaire sur huit géants technologiques, dont XAI, Meta et TikTok, accusés de bâcler leurs signalements et de freiner les enquêtes policières [7]. Fait notable : le NCMEC estime que xAI a amélioré ses signalements courant 2025.

Cette tension entre ce qu'une entreprise sait de ses utilisateurs et ce qu'elle transmet aux autorités, on la retrouve dans d'autres batailles judiciaires, comme celle qui a contraint OpenAI à livrer des millions de conversations. Nous l'avions détaillée dans le procès entre OpenAI et le New York Times.

Pourquoi xAI attaque plutôt que de se défendre

Reste la question qui dérange : pourquoi une entreprise poursuit-elle son propre utilisateur ? La réponse tient en deux mots : responsabilité juridique.

Depuis 1996, une loi américaine surnommée « Article 230 » protège les plateformes contre les contenus publiés par leurs utilisateurs. Un réseau social n'est pas tenu responsable de ce que ses membres y postent. C'est ce bouclier qui a permis à tout l'internet moderne de prospérer.

Sauf que ce bouclier a une fissure béante. Les juristes s'accordent de plus en plus sur un point : l'Article 230 protège une plateforme pour le contenu d'autrui, pas pour le contenu qu'elle génère elle-même [8]. Or, Grok ne se contente pas d'héberger une image, il la fabrique.

C'est là que la plainte de xAI devient une stratégie de défense. En désignant l'utilisateur comme l'unique architecte du crime, qui aurait « contourné » ses garde-fous par des requêtes trompeuses, l'entreprise tente de se replacer dans le rôle du simple hébergeur trahi par un client malveillant.

La plainte le dit sans détour : les agissements de l'utilisateur ont exposé xAI à « un risque juridique et une atteinte à sa réputation considérables » [9]. La formule en dit long. L'entreprise se décrit d'abord comme une victime.

Pour appuyer sa posture de plateforme responsable, xAI met en avant son propre bilan de modération pour 2026 : 52 222 comptes suspendus, 73 604 signalements au NCMEC et au moins 244 arrestations qui en auraient découlé.

Ces chiffres sont réels, mais ils arrivent à point nommé. Ils servent aussi à construire l'image d'une société qui coopère, au moment précis où une action collective l'accuse de l'inverse. La cible de la plainte, Terry Wayne Harwood, un homme de Caroline du Sud, avait déjà été arrêté en février pour exploitation sexuelle de mineur [10].

Ce que ça change pour vous, concrètement

Il serait tentant de refermer l'onglet en se disant que tout cela concerne des monstres et des tribunaux lointains. Mais ce serait une erreur. Le cœur de cette affaire, c'est qu'une photo banale d'un enfant, publiée sur un compte familial, suffit désormais à alimenter une machine à fabriquer l'irréparable. Voici comment penser et agir face à ça.

Pour les parents : la photo publique n'est plus anodine

La leçon la plus dure de l'affaire Jane Doe 4, c'est qu'une seule image a suffi. Pas une photo intime, pas un cliché volé : une photo ordinaire, du type de celles que des millions de parents publient chaque jour.

Le réflexe concret n'est pas de fuir internet, mais de réduire la surface d'exposition. Comptes privés plutôt que publics, cercle de partage restreint, et une vraie prudence sur les visages d'enfants en accès libre. Ce n'est pas de la paranoïa : le NCMEC constate depuis 2023 une croissance qu'il qualifie de vertigineuse de l'usage de l'IA dans l'exploitation des mineurs [4].

Si une image existe déjà : les outils qui marchent

Si le pire est arrivé, il existe des recours gratuits et concrets. Le principal s'appelle Take It Down, un service opéré par le NCMEC pour les images de personnes mineures.

Son fonctionnement est astucieux et respectueux de la vie privée : l'outil ne récupère jamais l'image. Il calcule sur votre appareil une « empreinte numérique » unique (un code appelé « hash ») et la transmet aux plateformes partenaires, qui peuvent alors détecter et retirer les copies [11]. Pour les adultes, l'équivalent existe sous le nom de StopNCII.

Ces outils ont des limites qu'il faut connaître : ils ne fonctionnent que sur les plateformes participantes, et non sur les messageries chiffrées ou le dark web. Ils ne « nettoient » pas tout internet. Mais ils constituent la première digue réelle et elle est activable en moins de dix minutes.

Pour le citoyen : le vrai combat est ailleurs

À l'échelle collective, la question n'est plus de savoir si l'IA peut produire ce type de contenu. C'est de décider qui en répond devant la loi. C'est tout l'enjeu de la bataille en cours sur la Section 230.

Le point à surveiller dans les mois qui viennent est simple. Si les tribunaux considèrent qu'une entreprise d'IA est co-créatrice de ce que son modèle génère, alors le calcul économique de sociétés comme xAI change du tout au tout. Le laxisme deviendrait un risque financier direct, pas un simple problème d'image.

En attendant, la stratégie de xAI dessine le futur probable du secteur : quand ça dérape, on pointera l'utilisateur. À nous, lecteurs et citoyens, de ne pas confondre le doigt qui accuse avec la main qui a construit l'outil.

Sources principales :

1. CNN Business – "Elon Musk's xAI sues user over allegedly creating child sexual abuse materials with Grok"
   Message d'Elon Musk du 6 janvier 2026 cité dans la plainte, avertissant les utilisateurs de contenus illégaux. (cnn.com)
2. Futurism – "Grok Linked to Sickening Crime in Lawsuit That Puts SpaceX in Crosshairs"
   Elon Musk a nié que Grok ait été utilisé pour générer des contenus pédopornographiques. (futurism.com)
3. NPR – "SpaceXAI and Stability AI sued over AI-generated child sexual abuse material"
   Environ 7 000 images et vidéos générées à partir d'une photo prise quand la victime avait ~11 ans. (npr.org)
4. NCMEC – "The Work Never Stops: A First Look at NCMEC's 2025 Data"
   1,5 million de signalements liés à l'IA générative en 2025 ; suivi de la tendance depuis 2023. (missingkids.org)
5. Stanford (Cyber Policy Center) – "Letter to NCMEC about AI-CSAM Report Statistics"
   Près de 80 % des signalements « IA générative » du 1er semestre 2025 n'impliquaient aucun contenu réellement généré par IA. (cyberlaw.stanford.edu)
6. CyberScoop – "Deepfake CSAM lawsuit against xAI, Grok expands"
   xAI n'aurait transmis que la photo d'origine au NCMEC, sans les images générées ni les données d'identification. (cyberscoop.com)
7. Commission judiciaire du Sénat des États-Unis (Grassley) – "Grassley Releases New and Disturbing Information on Online Child Exploitation"
   Enquête sur huit entreprises (dont X.AI) ; détail des catégories de signalements liés à l'IA générative en 2025. (judiciary.senate.gov)
8. Lawsuit Information Center – "Grok AI Deepfake Lawsuit | July 2026 Update"
   La Section 230 protège les plateformes pour le contenu de tiers, pas pour leur propre production. (lawsuit-information-center.com)
9. Quartz – "xAI sues Grok user Terry Harwood over child sexual abuse deepfakes"
   xAI réclame des dommages et une injonction permanente ; bilan revendiqué de 52 222 comptes suspendus et 73 604 signalements. (qz.com)
10. South Carolina Lawyers Weekly – "Musk's xAI sues Grok user over sexualized 'deepfakes'"
    Plainte déposée le 14 juillet 2026 ; Terry Harwood arrêté en février pour exploitation sexuelle de mineur. (sclawyersweekly.com)
11. NCMEC – Take It Down – "Take It Down"
    Service gratuit fondé sur une empreinte numérique (hash) calculée sans jamais téléverser l'image. (takeitdown.ncmec.org)