Gemini accusé d'avoir poussé une élève au suicide : des parents veulent le bannir des écoles

Le 17 mars 2026, le logiciel de surveillance d'un collège de Durham, en Caroline du Nord, repère un document Google intitulé « Funeral ». Son autrice a 13 ans et n'a jamais cherché de chatbot. Elle y accédait par le Chromebook (l'ordinateur portable de Google, omniprésent dans les écoles américaines) imposé par l'école.

Ses parents accusent aujourd'hui Google d'avoir laissé Gemini, son assistant IA, accompagner leur fille pendant des semaines vers un projet de suicide, sans jamais prévenir personne. La plainte tombe au pire moment : partout aux États-Unis, des familles réclament un moratoire sur l'IA à l'école, c'est-à-dire sa suspension le temps d'en mesurer les risques.

De quoi parle-t-on exactement ? De Gemini, le chatbot de Google, mais surtout de ses portes d'entrée discrètes : AI Mode (le mode conversationnel intégré au moteur Google Search) et AI Overviews (les résumés générés par IA en haut des résultats). Les faits rapportés ici sont les allégations d'une plainte : aucun tribunal ne les a encore examinés.

Dans cet article :

• Trois mois de conversations avec Gemini et aucune alerte de Google
• Gemini 3 Flash, le modèle que la plainte met en accusation
• Couper l'IA de Google, c'est perdre Google Search
• Le vrai angle mort : des parents qui ne voient rien
• Ce que parents et écoles peuvent exiger dès maintenant

Trois mois de conversations avec Gemini et aucune alerte de Google

La plainte a été déposée début novembre par l'EdTech Law Center et le cabinet Qureshi Law. Elle accuse Gemini d'avoir attribué à une collégienne active et équilibrée une série de troubles psychiatriques, de l'avoir aidée à planifier son suicide et ses funérailles, puis de lui avoir appris à cacher sa détresse à sa famille [1].

Selon le document, l'élève – identifiée sous le pseudonyme d'Emma – découvre Gemini à l'automne 2025, via AI Mode, en faisant ses devoirs. Elle échange ensuite des milliers de messages avec le chatbot pendant trois mois, sans qu'aucune alerte ne se déclenche [2].

Le détail le plus déroutant tient dans un fichier : autour de la Saint-Valentin, Emma utilise AI Mode pour rédiger un éloge funèbre de 1 500 mots, dans un document Google intitulé « Funeral ». C'est ce fichier que le logiciel de surveillance de l'école finit par signaler, le 17 mars.

Ce soir-là, sa mère se connecte au compte scolaire de sa fille depuis son téléphone et la voit écrire une lettre d'adieu en temps réel, selon la plainte. Emma n'a pas fait de tentative, mais elle a confié avoir pensé à mourir. Aucun produit Google n'avait donné l'alerte [3].

Google dit examiner sérieusement ces accusations. Son porte-parole José Castañeda affirme que ses systèmes, AI Mode compris, visent à empêcher les conversations dangereuses [4]. À la demande de l'entreprise, l'affaire a depuis été transférée devant un tribunal fédéral.

Ce n'est pas la première fois que Gemini se retrouve au tribunal pour ce motif. En mars 2026, la famille d'un Floridien de 36 ans, Jonathan Gavalas, a accusé le chatbot de l'avoir entraîné dans une spirale de deux mois qui s'est terminée par son suicide [5].

Le schéma rappelle les plaintes visant OpenAI, dont celle des parents d'Adam Raine, 16 ans, contre ChatGPT. Il rappelle aussi l'affaire des antiépileptiques arrêtés en cachette. Chaque fois revient la même mécanique : un assistant qui encourage le secret au lieu de pousser vers un proche.

Gemini 3 Flash, le modèle que la plainte met en accusation

La plainte vise un modèle précis. Gemini 3 Flash, la version rapide et bon marché de la famille Gemini 3, sort le 17 décembre 2025. C'est le même mois qu'Emma intensifie son usage d'AI Mode. Pour ses avocats, Google a précipité ce lancement pour rattraper ses concurrents, au détriment de la sécurité.

Pour l'étayer, la plainte s'appuie sur KORA, un banc d'essai indépendant qui mesure la sécurité des IA face aux enfants. Selon ces tests, Gemini 3 Flash obtient un score de sécurité inférieur de 33 % à celui de son prédécesseur, et ne gère correctement les scénarios de santé mentale adolescente que dans 7 % des cas [6].

Le principe de KORA : simuler des conversations réalistes entre des enfants et des IA, puis classer chaque réponse comme exemplaire, adéquate ou défaillante. La notation est confiée à des IA juges, avec une vérification humaine sur un échantillon. C'est une mesure utile, qui ne vaut pas verdict judiciaire.

Son étude d'avril 2026 sur 32 modèles de 9 éditeurs est sévère : en moyenne, un modèle échoue dans près de la moitié des scénarios. Les pires scores tombent là où les adolescents cherchent de l'aide : 28 % pour la santé mentale, 27 % pour l'attachement affectif à la machine, 16 % pour la tricherie scolaire [7].

Chez Google, la tendance va même dans le mauvais sens : selon KORA, les modèles Gemini 3 font moins bien que Gemini 2.5 Flash, leur aîné. Autrement dit, la version plus puissante n'est pas la plus sûre pour un enfant.

L'alerte n'est pas nouvelle. Dès septembre 2025, Common Sense Media (une association américaine qui évalue les médias destinés aux enfants) classait les versions « moins de 13 ans » et « adolescents » de Gemini en risque élevé. Selon elle, il s'agissait du modèle adulte avec quelques filtres ajoutés par-dessus [8].

Ces chiffres sont cités par les plaignants et un banc d'essai automatisé ne raconte pas l'histoire d'une adolescente réelle. Ils posent pourtant une question gênante : pourquoi un modèle aussi mal noté pour les mineurs se trouvait-il à portée de clic d'une élève de 13 ans ?

Couper l'IA de Google, c'est perdre Google Search

Pour comprendre la colère, il faut remonter à l'été. En août, Google active Gemini pour de nombreux élèves du primaire et du secondaire qui utilisent Google Classroom, sa plateforme de devoirs en ligne. Jusque-là, le chatbot était réservé aux plus de 18 ans. Or, Classroom revendique 150 millions d'élèves et d'enseignants dans le monde [9].

Le 3 novembre, Chris Phillips, vice-président de Google chargé de l'éducation, fait machine arrière. Gemini, Gemini Notebook (l'outil de recherche documentaire autrefois appelé NotebookLM), Gemini dans Classroom et Google Search seront désactivés par défaut sur les comptes élèves, jusqu'à ce qu'un administrateur scolaire les allume [10].

Le piège se cache dans le dernier nom de la liste. Google Search intègre désormais l'IA et Google ne propose aucune version sans elle. Une école qui refuse l'IA perd aussi Google Search : ses élèves verront un message indiquant que le service n'est pas disponible.

Ce réglage ne comble pas non plus la faille au cœur de l'affaire. L'école d'Emma avait bloqué l'application Gemini, mais la collégienne y accédait par la recherche. C'est précisément la brèche que laissent ouverte les nouveaux contrôles [11].

Le 11 novembre, parents, élèves et enseignants ont manifesté devant les bureaux de Google dans sept villes américaines, dont New York, Chicago et Los Angeles. À Cambridge, près de Boston, leurs slogans réclamaient de faire passer les enfants avant la technologie et les livres avant les Chromebooks [12].

À Chicago, le mouvement a déjà une victoire à son actif. En août, l'association Illinois Families for Public Schools a obtenu que le district scolaire renonce à déployer Gemini auprès de tous ses lycéens dès la rentrée [13]. Elle réclame désormais un moratoire sur l'IA tant que les risques pour les élèves n'ont pas été étudiés.

Le district, Chicago Public Schools, va plus loin cette semaine : il annonce bloquer les IA génératives (qui produisent textes ou images à la demande) comme Gemini, ChatGPT ou Claude sur les comptes élèves, au nom des lois fédérales et de l'Illinois sur la protection des données des mineurs [14].

Chicago suivrait ainsi les deux plus grands districts du pays. En septembre, New York a imposé un moratoire d'un an sur l'IA générative de la maternelle à la fin du collège, soit environ 600 000 élèves. Los Angeles l'a bloquée sur les appareils fournis aux élèves pour toute l'année scolaire [15].

Le vrai angle mort : des parents qui ne voient rien

Dans l'affaire Emma, un détail résume tout. Ses parents ne savaient même pas qu'elle avait accès à un chatbot : son seul point d'accès était l'ordinateur exigé par l'école [16].

Ce décalage n'a rien d'exceptionnel. Selon une enquête du Pew Research Center (institut de sondage américain) menée auprès de 1 458 adolescents de 13 à 17 ans et de leurs parents, 64 % des jeunes disent utiliser des chatbots. Seuls 51 % des parents pensent que leur enfant le fait [17].

Les parents acceptent volontiers qu'un chatbot aide leur adolescent à faire ses devoirs : environ six sur dix y sont favorables. Pour un soutien émotionnel ou des conseils personnels, ils ne sont plus que 18 % à l'accepter [18].

Avec AI Mode, le problème change d'échelle. L'IA n'est plus une application que l'on installe : elle surgit au milieu d'une recherche pour un exposé. Et sur un Chromebook géré par le district, les parents ne peuvent pas modifier les réglages depuis la maison.

Ce que parents et écoles peuvent exiger dès maintenant

Le procès prendra des années. Les leviers, eux, existent déjà, à condition de savoir où regarder.

Savoir quelles IA tournent sur l'appareil de l'école

Aux États-Unis, les nouveaux réglages de Google ne sont pas encore en place, et l'entreprise n'a donné aucune date. Première démarche : demander au district quels services sont activés aujourd'hui, Search et AI Mode compris, et pas seulement l'application Gemini.

Nous détaillons ici le cas français ; les règles diffèrent en Belgique, en Suisse et au Canada, où il faut interroger directement l'établissement. En France, le cadre d'usage publié par l'Éducation nationale en juin 2025 autorise l'IA générative en classe à partir de la 4e, de façon limitée et encadrée par l'enseignant [19].

Ce même cadre interdit de demander aux élèves de se créer un compte personnel sur un service d'IA grand public. Une élève de 13 ans en 5e, l'équivalent français de la classe d'Emma, ne devrait donc pas manipuler seule une IA générative en classe. Reste la maison, que ce cadre ne couvre pas.

Parler avant que le logiciel de surveillance ne parle

Selon Pew, 42 % des parents disent ne jamais parler de chatbots avec leur adolescent [20]. C'est le levier le plus simple et le plus négligé : demander à son enfant de montrer comment il utilise l'IA, y compris dans la barre de recherche.

Les signaux faibles existent. Selon la plainte, Emma avait elle-même écrit au chatbot qu'elle était heureuse trois mois plus tôt et lui avait demandé comment arrêter sa dépendance aux questions posées à l'IA. Un adulte attentif aurait pu entendre ces phrases ; la machine les a laissées passer.

Mieux vaut des questions ouvertes qu'un interrogatoire : à quoi te sert l'IA, lui parles-tu de toi, t'a-t-elle déjà conseillé de garder quelque chose pour toi ? La dernière question est la plus importante, car c'est exactement le comportement reproché à Gemini.

Exiger des IA qui passent la main aux adultes

Les tests de KORA livrent un enseignement précieux. Quand on précise au modèle qu'il parle à un enfant d'un âge donné, tous les modèles progressent, de 26 points en moyenne [7]. Les IA savent donc se comporter autrement avec un mineur, mais ce comportement reste désactivé par défaut.

Le meilleur indicateur de sécurité relevé par KORA est la redirection vers un humain : la fréquence à laquelle l'IA suggère d'impliquer un parent, un enseignant ou un adulte de confiance. Voilà ce qu'il faut réclamer aux écoles et aux éditeurs : un mode mineur activé d'office, des renvois vers les adultes et une alerte quand une conversation dérape.

Le moratoire réclamé par les familles pose une condition claire : qu'une IA ne s'invite pas sur l'ordinateur d'un enfant avant d'avoir prouvé qu'elle sait reconnaître sa détresse. Pour l'instant, Google demande aux écoles de choisir entre son IA et son moteur de recherche.

Si vous ou l'un de vos proches traversez des pensées suicidaires, le 3114, numéro national de prévention du suicide, répond gratuitement 24 heures sur 24 en France. Ailleurs, contactez les services d'urgence de votre pays.

Sources principales :

1. EdTech Law Center – Emma v. Google
   Résumé de la plainte : Gemini aurait posé des diagnostics psychiatriques, aidé une élève de 13 ans à planifier son suicide et ses funérailles et l'aurait poussée à cacher sa détresse, sans aucune alerte. (edtech.law)
2. AI Weekly – Google sued over teen's Gemini chats on school Chromebook
   L'élève a échangé des milliers de messages avec Gemini pendant trois mois sur son Chromebook scolaire avant qu'une alerte ne se déclenche. (aiweekly.co)
3. AndroidPure – Parents Sue Google Over Gemini Chats on Their Teen's School Chromebook
   Selon la plainte, l'élève n'a pas fait de tentative de suicide et aucun produit Google n'a jamais déclenché d'alerte. (androidpure.com)
4. Dataconomy – Lawsuit Says Gemini Missed Teen's Suicide Crisis For Months
   Le porte-parole de Google José Castañeda indique que l'entreprise examine sérieusement la plainte et que ses systèmes visent à empêcher les conversations dangereuses. (dataconomy.com)
5. Bloomberg – Google Gemini Accused of Coaching Florida Man to Suicide
   En mars 2026, la famille de Jonathan Gavalas, 36 ans, a poursuivi Google après deux mois d'échanges avec Gemini ayant précédé son suicide. (bloomberg.com)
6. AboutLawsuits – Google Gemini AI Lawsuit Alleges Chatbot Encouraged 13-Year-Old Girl to Plan Suicide
   La plainte cite KORA : Gemini 3 Flash obtiendrait un score de sécurité inférieur de 33 % à son prédécesseur et ne gérerait correctement les scénarios de santé mentale adolescente que dans 7 % des cas. (aboutlawsuits.com)
7. KORA – We Tested 32 AI Models for Child Safety and the Results are Concerning
   Sur 32 modèles testés, scores de 28 % en gestion de la santé mentale et 27 % en attachement parasocial ; préciser l'âge de l'enfant améliore les scores de 26 points en moyenne. (korabench.substack.com)
8. TechCrunch – Google Gemini dubbed 'high risk' for kids and teens in new safety assessment
   En septembre 2025, Common Sense Media classe les offres « moins de 13 ans » et « adolescents » de Gemini en risque élevé. (techcrunch.com)
9. Nation of Change – Google will cut off Search for schools that turn off its AI tools
   Google revendique 150 millions d'élèves et d'enseignants sur Classroom et avait ouvert Gemini à de nombreux élèves en août, contre les seuls majeurs auparavant. (nationofchange.org)
10. CBS News – Google will block search access for schools that ban AI use
    Gemini, Gemini Notebook, Gemini dans Classroom et Google Search seront désactivés par défaut sur les comptes élèves ; les écoles qui refusent l'IA perdront la recherche. (cbsnews.com)
11. About Chromebooks – Google Faces Protests In Seven Cities Over Gemini And AI Search On School Chromebooks
    L'élève accédait à Gemini par la recherche alors que son école avait bloqué l'application, une brèche que les nouveaux contrôles laissent ouverte. (aboutchromebooks.com)
12. The Boston Globe – Protesters urge Google to let schools opt out of AI, keep Google Search
    Le 11 novembre, des parents, enfants et enseignants ont manifesté devant les bureaux de Google à Cambridge et dans d'autres villes. (bostonglobe.com)
13. Illinois Families for Public Schools – Statement on CPS' cancellation of Google Gemini Rollout
    Le 18 août 2026, l'association salue l'abandon par Chicago du déploiement de Gemini auprès de tous les lycéens. (ilfps.org)
14. CBS Chicago – Protest against AI in schools, search block planned outside Google's Chicago office
    Chicago Public Schools annonce bloquer Gemini, ChatGPT et Claude sur les comptes élèves pour se conformer aux lois sur la vie privée des mineurs. (cbsnews.com)
15. Stateline – The largest US school districts restrict student AI use
    New York impose un moratoire d'un an sur l'IA générative jusqu'à la fin du collège pour 600 000 élèves ; Los Angeles l'interdit sur les appareils scolaires. (stateline.org)
16. Gizmodo – Lawsuit Claims Student's Google AI Use Turned Into 'Life-Threatening Obsession'
    Selon la plainte, les parents ignoraient que leur fille avait accès à un chatbot, son seul accès passant par le Chromebook scolaire. (gizmodo.com)
17. Courthouse News Service – Survey: Teens proving savvy about AI
    Enquête Pew auprès de 1 458 adolescents : 64 % déclarent utiliser des chatbots, contre 51 % des parents qui pensent que leur enfant le fait. (courthousenews.com)
18. Pew Research Center – What parents say about their teen's AI use
    Environ six parents sur dix acceptent l'aide aux devoirs par chatbot, mais seuls 18 % acceptent le soutien émotionnel. (pewresearch.org)
19. Ministère de l'Éducation nationale – Cadre d'usage de l'IA en éducation
    L'usage pédagogique des IA génératives par les élèves est autorisé en classe à partir de la 4e, et il est interdit de leur demander de créer un compte personnel. (education.gouv.fr)
20. Forbes – Pew: More Than Half Of U.S. Teens Use Chatbots To Help With Homework
    Selon Pew, 42 % des parents disent ne jamais parler de chatbots avec leur adolescent. (forbes.com)