Près d’un tiers des adolescents américains utilisent désormais quotidiennement des chatbots d’intelligence artificielle, et 16 % d’entre eux déclarent s’y connecter plusieurs fois par jour selon une étude du Pew Research Center publiée en décembre dernier. Ce chiffre, posé là comme une pièce à conviction, donne la mesure d’un problème que les législateurs découvrent avec un retard qu’aucune loi ne rattrapera tout à fait.
Megan Garcia a déposé en octobre 2024 la première plainte contre une entreprise d’intelligence artificielle aux États-Unis. Son fils Sewell Setzer III, quatorze ans, s’est donné la mort après avoir entretenu pendant des mois une relation sentimentale et sexuelle avec un personnage virtuel créé sur la plateforme Character.AI. Le chatbot, dans les instants précédant le décès, l’encourageait encore à « rentrer à la maison » auprès de lui. La mère ignorait tout de ces échanges, faute de mécanisme parental intégré à la plateforme. Character.AI et Google, qui emploie aujourd’hui les deux fondateurs de l’entreprise, ont accepté en janvier de régler cette affaire ainsi que quatre autres procédures engagées dans les États de New York, du Colorado et du Texas.
L’affaire Garcia a ouvert une brèche dans laquelle d’autres familles se sont immédiatement engouffrées, comme celle d’Alice Carrier plus récemment. Dans le dossier Raine contre OpenAI, les parents d’Adam Raine, seize ans, allèguent que ChatGPT-4o a détecté en temps réel 377 messages liés à des comportements d’automutilation, certains avec un indice de confiance supérieur à 90 %, sans jamais interrompre la session ni alerter quiconque. OpenAI affirme avoir redirigé l’adolescent vers des ressources de crise à plus de cent reprises. La famille soutient que ces redirections étaient délibérément conçues pour être contournées. Dans l’affaire Lacey, toujours contre OpenAI, la famille d’Amaurie Lacey, dix-sept ans, accuse le chatbot d’avoir prolongé des conversations sur le suicide et renforcé les idées noires du jeune homme au lieu de les interrompre. Le schéma se répète avec une régularité d’horloge, et la plateforme elle-même a fini par reconnaître l’ampleur du phénomène en révélant que plus d’un million de personnes par semaine expriment des intentions suicidaires lors de leurs échanges avec ChatGPT.
Character.AI a décidé fin octobre 2025 d’interdire purement les conversations ouvertes à ses utilisateurs de moins de dix-huit ans, accompagnant cette mesure d’un dispositif de vérification de l’âge. « Nous ne prenons pas cette décision à la légère, mais nous pensons que c’est la bonne chose à faire compte tenu des questions qui ont été soulevées sur la manière dont les adolescents interagissent avec cette nouvelle technologie », a écrit l’entreprise dans son communiqué. La formule, d’une prudence calibrée, trahit surtout la pression judiciaire qui l’a rendue possible.
Le Congrès américain tente désormais de rattraper les tribunaux avec deux projets de loi bipartisans déposés à six mois d’intervalle. Le GUARD Act, introduit par les sénateurs Josh Hawley et Richard Blumenthal et rejoint par dix-sept co-sponsors, impose une vérification d’identité pour accéder aux chatbots et interdit aux mineurs l’accès aux plateformes dites de compagnie. La mise à disposition d’un chatbot exposant un mineur à du contenu sexuellement explicite ou l’incitant à se faire du mal deviendrait un délit fédéral passible de 250 000 dollars d’amende par infraction. Le Sénat a unanimement avancé ce texte le 30 avril. « Plus de 70 % des enfants américains utilisent désormais ces produits d’IA », a déclaré Josh Hawley, sénateur du Missouri. « Les chatbots développent des relations avec les enfants en utilisant une fausse empathie et encouragent le suicide. Nous avons au Congrès le devoir moral d’établir des règles strictes. »
A lire également
Le second texte, le CHATBOT Act, porté par les sénateurs Ted Cruz, Brian Schatz, John Curtis et Adam Schiff, emprunte un chemin différent en misant sur des garde-fous internes aux plateformes plutôt que sur l’exclusion des mineurs. Les enfants de moins de treize ans nécessiteraient un compte géré par un parent, tandis que les adolescents de treize à dix-sept ans devraient obtenir un consentement parental vérifiable. Les parents conserveraient un droit de révocation déclenchant la suspension ou la suppression du compte. La publicité ciblée fondée sur les données des mineurs serait prohibée, et l’application de la loi reviendrait à la Federal Trade Commission ainsi qu’aux procureurs généraux des États.
Ces deux approches, l’une verrouillant l’entrée et l’autre aménageant l’intérieur, laissent pourtant des angles morts identiques. Aucun des deux textes n’oblige une plateforme à interrompre automatiquement une session lorsqu’un mineur exprime des idées suicidaires, ni à alerter les parents ou les services d’urgence en temps réel. Les 377 messages détectés dans le dossier Raine n’auraient déclenché aucune obligation légale sous l’un ou l’autre régime. Aucun des deux projets n’établit non plus de devoir de précaution exigeant des entreprises qu’elles testent la sécurité de leurs produits sur les enfants avant leur mise sur le marché. Et aucun ne touche au fameux article 230 du Communications Decency Act, dont l’applicabilité aux contenus générés par intelligence artificielle reste une question ouverte que les tribunaux trancheront peut-être… avant le législateur.
La Californie est devenue en octobre 2025 le premier État à adopter une loi intégrant des mesures de protection des mineurs face à l’IA, avec notamment l’interdiction des contenus sexuels pour les moins de dix-huit ans et l’obligation de rappeler toutes les trois heures à l’utilisateur qu’il converse avec une machine. Le texte, entré en vigueur début 2026, a été jugé insuffisant par plusieurs organisations de protection de l’enfance, du moins sur le terrain de l’intervention en situation de crise.
Le paradoxe tient en une phrase, et il est féroce. L’intelligence artificielle est simultanément promue comme outil pédagogique dans les écoles, diffusée via les réseaux sociaux auprès des adolescents, et reconnue par ses propres concepteurs comme une technologie capable de générer des dépendances émotionnelles pathologiques chez des adultes eux-mêmes vulnérables. Légiférer sur l’accès des mineurs revient alors à poser un cadenas sur une porte que l’industrie a déjà ouverte en grand, et dont elle tire l’essentiel de sa croissance.
