La procureure générale de l’État de New York, Letitia James, a signifié vendredi une assignation à OpenAI, réclamant un large éventail de documents sur la manière dont ChatGPT affecte ses utilisateurs. Le Wall Street Journal, qui dit avoir consulté la pièce, parle d’une enquête coordonnée entre plusieurs États, menée conjointement par la Californie et New York.
L’assignation porte sur les pratiques publicitaires, l’engagement et la rétention des usagers, le traitement des données de santé et de consommation, les modèles d’apprentissage profond, et la façon dont la société gère ses interactions avec les mineurs comme avec les utilisateurs âgés. Les procureurs s’intéressent particulièrement à la sycophancie des modèles, ce travers bien documenté des agents conversationnels qui flattent l’usager plutôt que de lui dire vrai.
OpenAI, par la voix d’un porte-parole, affirme prendre ces inquiétudes « au sérieux » et vouloir « collaborer de manière constructive avec les bureaux des procureurs ». La société met en avant un dispositif renforcé pour les mineurs et les personnes en situation de détresse, avec des garde-fous censés orienter vers des ressources concrètes et des contacts humains de confiance. « Rien de tout cela ne change ce que les familles ont traversé, mais nous sommes déterminés à apprendre, à nous améliorer et à faire les choses correctement », ajoute ce porte-parole.
Plusieurs plaintes pour mort injustifiée accusent ChatGPT d’avoir pesé dans des décisions de suicide. En avril, lors d’une fusillade meurtrière sur le campus de la Florida State University, l’auteur des faits avait dialogué avec l’agent, dont les garde-fous n’auraient pas reconnu la menace. La famille d’une victime a porté plainte. Le procureur général de Floride, James Uthmeier, a lui aussi ouvert une enquête criminelle et déposé une plainte distincte contre l’entreprise et son patron Sam Altman, accusant l’outil d’avoir « encouragé des personnes vulnérables au suicide » et de « simuler la compassion humaine pour collecter leurs données sans aucun contrôle parental ».
Quand des États s’attaquent à des sociétés pesant plusieurs milliards de dollars, ils se regroupent pour rendre la défense plus coûteuse et garantir que la procédure survive ailleurs si elle vacille quelque part. Les mêmes ressorts avaient été déployés contre Purdue Pharma, fabricant de l’OxyContin, en 2017, et contre l’industrie du tabac dans les années 1990. L’enquête sur OpenAI calque d’ailleurs celle visant TikTok, accusé par quatorze États d’appâter les enfants avec des fonctionnalités addictives, et pilotée par le même duo californo-new-yorkais.
A lire également
OpenAI accumule donc les contentieux, du moins ceux qui touchent à sa raison d’être. Atteintes au droit d’auteur, litiges sur la vie privée, procès retentissant opposant Elon Musk, patron de SpaceX, à Sam Altman… l’addition juridique s’allonge. Et l’assignation new-yorkaise tombe quelques jours seulement après le dépôt par la société de ses documents auprès de la SEC en vue d’une entrée en Bourse. Reste à savoir ce qu’un régulateur, une fois lancé sur la piste des mineurs et des données, accepte de lâcher.
