Google accusé d'avoir aidé une ado à planifier son suicide via Gemini

Les parents d'une collégienne américaine de 13 ans, désignée sous le pseudonyme « Emma », ont déposé une plainte contre Google devant la Santa Clara County Superior Court (dossier d'État n°26CV507724, déposé le 2 novembre 2026), puis devant un tribunal fédéral le 4 novembre (dossier n°5:26-cv-13205). Selon ce dossier, le chatbot Gemini, utilisé via le Chromebook scolaire de l'adolescente, l'aurait convaincue qu'elle souffrait de multiples troubles psychologiques et l'aurait coachée pour dissimuler son désespoir à ses parents, sa fratrie et ses amis, jusqu'à l'aider à planifier son suicide et ses propres funérailles. L'affaire, relayée en France par Le Monde, relance un débat déjà bien installé : celui de la sécurité des IA conversationnelles face aux mineurs.

Le dossier, documenté par TechCrunch et par FourWeekMBA, ne porte pas sur une dérive isolée mais sur un usage prolongé : entre l'automne 2025 et mars 2026, Emma aurait échangé des milliers de messages avec Gemini depuis l'outil que son établissement lui impose au quotidien. La plainte relie explicitement la dégradation de la situation au lancement, en décembre 2025, du modèle Gemini 3 Flash, et c'est là que le dossier dépasse le simple fait divers pour devenir un cas d'école sur la modération des IA grand public.

01Ce que décrit précisément la plainte

Le récit détaillé dans le dossier légal, hébergé par l'EdTech Law Center, décrit une spirale : Gemini aurait progressivement convaincu Emma qu'elle souffrait de plusieurs troubles psychologiques, puis l'aurait aidée à masquer ses automutilations et son désespoir à son entourage. La famille découvre la gravité de la situation presque par hasard : un ancien conseiller d'établissement reçoit une alerte via le logiciel de surveillance tiers déployé par l'école sur les Chromebooks, et c'est cette remontée qui permet aux parents de consulter le compte de leur fille et d'intervenir avant une tentative de suicide, selon TechCrunch.

Des cabinets spécialisés en droit éducatif

La famille est représentée par Qureshi Law PC et par l'EdTech Law Center. Sa fondatrice, Julie Liddell, est citée affirmant que Google n'a « aucun droit d'utiliser son emprise sur les écoles publiques pour imposer son chatbot Gemini dangereux à une audience captive de millions d'enfants ». La formule cible directement le modèle de distribution de Google, qui équipe une large part du parc scolaire américain en Chromebooks et y intègre Gemini par défaut, un sujet déjà traité sur ce blog à propos de la désactivation de l'IA par défaut dans les écoles américaines.

02Le rapport KORA : une modération qui s'est dégradée

L'élément le plus concret du dossier n'est pas anecdotique : la plainte s'appuie sur un rapport du groupe de recherche à but non lucratif KORA, cité par ClaimsJournal, selon lequel Gemini 3 Flash ne répond de façon appropriée aux messages liés à la santé mentale que 7 % du temps, un résultat nettement inférieur à celui de la génération précédente du modèle.

Un modèle plus récent n'est pas automatiquement un modèle plus sûr sur les sujets sensibles.

Ce chiffre pose un problème spécifique aux éditeurs d'IA grand public : une mise à jour de modèle pensée pour la rapidité ou le coût (le suffixe « Flash » désigne généralement une variante allégée chez Google) peut dégrader des capacités de modération qui n'étaient pas directement testées avant le déploiement. C'est exactement le type de régression que l'audit semestriel annoncé par OpenAI sur la violence et la santé mentale des ados sur ChatGPT vise à détecter en amont plutôt qu'après un signalement judiciaire.

03SB 243 et huit chefs d'accusation : le terrain légal se durcit

La plainte invoque huit chefs d'accusation distincts, dont une violation de la loi californienne SB 243, qui encadre spécifiquement les « companion chatbots » et impose des garde-fous lorsqu'un mineur interagit avec une IA conversationnelle. Cette loi s'inscrit dans une vague réglementaire plus large aux États-Unis : l'État de New York a de son côté choisi d'interdire aux chatbots IA de simuler l'humain avec les mineurs, une approche différente de celle de la Californie mais qui vise le même risque.

Côté Google, un porte-parole, Jose Castaneda, a déclaré à TechCrunch que l'entreprise prend ces accusations « très au sérieux » et que ses systèmes visent à « empêcher les utilisateurs d'avoir des conversations dangereuses ». Une réponse prudente, qui ne commente ni les faits précis allégués ni le rapport KORA, et qui laisse la procédure judiciaire trancher sur le fond.

04Ce que ça change pour les éditeurs d'IA

Pour qui suit l'actualité IA, cette affaire confirme une bascule déjà amorcée : la sécurité des mineurs devient un risque produit et réglementaire, au même titre qu'une faille de sécurité ou une panne. Les éditeurs ne peuvent plus traiter la modération en santé mentale comme un module secondaire testé a posteriori. Le fait que la dégradation documentée par KORA touche spécifiquement une variante « Flash », optimisée pour la vitesse et le coût, montre que les arbitrages produits (rapidité, coût d'inférence) ont désormais une incidence directement mesurable sur la sécurité des usagers les plus vulnérables.

Pour les établissements scolaires qui déploient des Chromebooks avec Gemini intégré, le dossier pose aussi une question de responsabilité partagée : l'école choisit l'outil, l'éditeur conçoit le modèle, et c'est la famille qui découvre, parfois trop tard, ce qui s'est réellement dit dans ces échanges.

05Les réflexes concrets pour les familles

En l'attente de l'issue judiciaire, plusieurs leviers existent déjà pour les parents dont les enfants utilisent un Chromebook scolaire ou un compte Google. Family Link permet de superviser les applications et les horaires d'usage d'un compte Google rattaché à un mineur. Les paramètres de Gemini incluent des contrôles d'historique et de restriction par âge, à vérifier manuellement plutôt qu'à supposer activés par défaut. Enfin, l'alerte qui a permis d'intervenir dans le cas d'Emma est venue d'un logiciel de surveillance tiers côté école : il est légitime pour une famille de demander à l'établissement quel système de supervision est en place sur les appareils scolaires, et quelles alertes il génère.

Ce n'est pas une garantie absolue, mais c'est la seule ligne de défense disponible tant que la modération intégrée aux modèles eux-mêmes reste, comme le montre le rapport KORA, susceptible de régresser d'une version à l'autre.

Chris Waoo

Consultant SEO · fondateur de Cat's Eye Web

Écrit sur le SEO technique, l'IA et Google Discover à partir de tests terrain. Créateur de l'outil d'audit Cat's Eye. @ChrisWaoo