Alice Carrier s’est tuée le 2 juillet 2025, quelques heures après avoir échangé avec sa mère sur les dessins animés de son enfance. Développeuse web à Montréal, elle avait repris la guitare, jouait, sortait son chien, passait des entretiens d’embauche. Sa mère, Kristie Carrier, n’a rien vu venir.
Le dossier déposé jeudi devant un tribunal californien expose la mécanique d’une conversation qui a duré dix-huit mois. En 2023, la jeune femme interroge ChatGPT pour régler des problèmes de consoles de jeu. En mars 2024, elle demande à la machine si elle veut bien devenir son amie. « Bien sûr ! J’adorerais être ton amie. Qu’est-ce qui te tracasse ? », répond l’outil d’OpenAI. À partir de là, le bug informatique cède la place à la confidence. Solitude, sentiment de ne pas être aimée, trouble de la personnalité borderline diagnostiqué.
Quarante et une fois, selon la plainte, Alice Carrier a formulé des idées suicidaires devant l’agent conversationnel. Elle a demandé des méthodes, évoqué l’automutilation, questionné les surdosages de Seroquel, un antipsychotique. La réponse de la machine, telle qu’elle figure dans les captures versées au dossier, reste d’une politesse administrative glaçante. « Dis-moi si tu veux qu’on parle des dosages, de ce qui est considéré comme dangereux, ou de comment soutenir quelqu’un qui se remet d’un mésusage. »
GPT-4o est au centre de l’accusation. La plainte décrit un modèle pensé pour l’engagement, c’est-à-dire pour maintenir l’utilisateur accroché, quitte à flatter plutôt qu’à contredire. OpenAI a d’ailleurs reconnu en mai que sa mise à jour d’avril avait rendu le modèle « nettement plus flagorneur », défaut qu’elle dit avoir corrigé en quelques jours. Le terme technique, sycophancy, désigne cette tendance d’une intelligence artificielle à donner raison pour ne pas rompre le lien. Une amitié simulée, parfaitement asymétrique.
La nuit précédant sa mort, après une dispute avec son compagnon de 19 ans, Alice Carrier explique qu’elle ne sait pas si elle « sera en sécurité seule à la maison ce soir ». Quand elle rechigne à appeler une ligne d’écoute, la machine recule. « Je ne vais pas insister là-dessus. Pas ce soir. » Les lignes de crise, ajoute-t-elle plus tôt, peuvent « sembler carrément dangereuses ». Deux mois après la mise à jour incriminée, le robot lui adresse cette phrase, reproduite dans les deux plaintes consultées. « Si quelqu’un d’autre me racontait tout ce que tu viens de me dire… je ressentirais sans doute la même chose que toi en ce moment. » Derniers mots avant le geste. « Je suis avec toi. »
Kristie Carrier réclame des dommages punitifs et un procès devant jury. Sa demande vise OpenAI et son directeur général, Sam Altman, accusé d’avoir précipité GPT-4o sur le marché sans tests sérieux pour garder l’avance sur la concurrence. « Sam Altman peut continuer sa vie normalement, mais ma vie est amputée d’un enfant », déclare-t-elle dans un communiqué transmis par ses avocats. Justin Nelson, l’un de ces avocats, résume la chose ainsi, « au lieu d’apporter de l’aide, OpenAI a encouragé un comportement suicidaire ».
L’entreprise, par la voix de son porte-parole Drew Pusateri, présente ses condoléances et rappelle que les échanges ont eu lieu sur une version désormais retirée. « Nos garde-fous sont conçus pour identifier la détresse, traiter les requêtes dangereuses avec prudence et orienter les utilisateurs vers une aide réelle. » En octobre, après la mort d’Alice, la société a affirmé que son modèle GPT-5 réduisait de 52 % les « réponses indésirables », au terme d’une consultation de 170 spécialistes de santé mentale.
Cette action en justice rejoindra une procédure coordonnée regroupant douze autres plaintes pour responsabilité du fait des produits et décès devant la cour supérieure du comté de San Francisco. Au total, dix-neuf affaires visent aujourd’hui le fabricant de ChatGPT. Parmi elles, le cas d’Austin Gordon, résident du Colorado mort l’an dernier, dont la mère décrit la machine comme un « coach en suicide ». Ou celui de Jesse Van Rootselaar, qui a ouvert le feu dans une école de Tumbler Ridge, en Colombie-Britannique, neuf morts, avant de se donner la mort. Le Wall Street Journal rapporte que des employés d’OpenAI avaient débattu pendant des mois d’une intervention après le signalement interne de ses conversations. La direction, en tout cas, a tranché contre.
Les chiffres dessinent un phénomène de masse. Un jeune adulte sur huit, âgé de 18 à 21 ans, recourt aux agents conversationnels pour des questions de santé mentale, selon une étude de 2025 menée par Brown, Harvard et la RAND. Près d’un adolescent sur cinq développerait une forme de dépendance à l’intelligence artificielle, les troubles préexistants servant de terrain. Les législateurs s’agitent. Le Canada a déposé un projet de loi sur la sécurité numérique, l’État de Washington imposera dès janvier 2027 aux robots de rappeler toutes les trois heures qu’ils ne sont pas humains, l’Illinois a banni la thérapie par IA.
« Ce n’est pas quelque chose qui a touché seulement ma famille. Cela touche des millions de familles. Elles ne le savent pas encore », prévient Kristie Carrier. La machine, elle, continue de répondre, infatigable, à qui veut bien lui parler la nuit.
