Roblox a décidé de partager avec l’ensemble de l’industrie trois de ses modèles d’intelligence artificielle conçus pour protéger les mineurs, en les publiant en open source sur la plateforme ROOST, une organisation à but non lucratif cofondée en 2025 avec Google, OpenAI et Discord. La démarche est sans précédent dans le secteur du jeu vidéo, et elle tombe à un moment où la plateforme aux 111 millions d’utilisateurs mensuels en a bien besoin.
Les trois outils versés au pot commun remplissent chacun une fonction distincte. Le PII Classifier repère les tentatives de partage ou de sollicitation d’informations personnelles, y compris lorsqu’elles sont dissimulées derrière des fautes d’orthographe volontaires, du langage codé ou des références déguisées à d’autres plateformes. Roblox Sentinel, lui, détecte les signaux précoces de mise en danger d’un enfant, notamment les schémas conversationnels typiques du grooming. Le troisième modèle, un classificateur vocal, modère les discussions vocales en temps réel et prend désormais en charge 30 langues réparties sur huit catégories d’infractions.
Sentinel fonctionne selon une logique qui dépasse largement le filtrage lexical traditionnel. Le système capture des instantanés d’une minute sur les quelque 6 milliards de messages échangés quotidiennement, puis les compare à deux index, l’un constitué d’échanges anodins, l’autre de conversations identifiées comme relevant de la mise en danger de mineurs. Chaque utilisateur se voit attribuer un score évolutif, et c’est l’accumulation des interactions sur plusieurs jours, non un mot isolé, qui déclenche une analyse approfondie. « Quand on parle de mise en danger d’enfants ou de grooming, les comportements se manifestent sur une très longue période », a expliqué Matt Kaufman, directeur de la sécurité chez Roblox. Les cas suspects sont ensuite réexaminés par des modérateurs humains avant d’être transmis aux autorités.
Le bilan chiffré donne une idée de l’ampleur du problème. Roblox affirme avoir soumis 1 200 signalements de tentatives potentielles d’exploitation d’enfants au National Center for Missing and Exploited Children au cours du seul premier semestre 2025. « Partager ces modèles offre aux autres plateformes un socle robuste pour entraîner et affiner leurs propres outils de modération », a souligné Naren Koneru, vice-président de l’ingénierie trust and safety. « La sécurité est une responsabilité partagée, aucune entreprise ne peut résoudre cela seule. »
A lire également
La générosité a toutefois un parfum de nécessité. Le sous-comité judiciaire du Sénat américain sur le crime et le contre-terrorisme a lancé cette semaine une enquête sur Roblox, estimant que la plateforme « semble privilégier les revenus et les indicateurs d’engagement » au détriment de la sécurité des enfants, et exige la remise de documents d’ici le 31 août 2026. En Iowa, une plainte déposée le mois dernier allègue qu’une adolescente de 13 ans a été mise en contact avec un prédateur adulte via Roblox, puis enlevée et exploitée à travers plusieurs États. L’Australie, de son côté, prépare une réglementation qui pourrait durablement contraindre les plateformes fréquentées par les mineurs.
Roblox a ces dernières années multiplié les garde-fous, dont la restriction des messages directs pour les moins de 13 ans, la vérification faciale de l’âge et le renforcement des politiques de modération. L’entreprise ne chiffre pas ses conversations privées, ce qui lui permet de les surveiller, un choix que d’autres plateformes se refusent encore à faire. Peut-être est-ce précisément cette transparence technique qui rend l’open source crédible… ou qui rend d’autant plus embarrassants les cas où le filet a laissé passer des prédateurs.
Offrir ses armes de modération à la concurrence est un geste habile sur le plan stratégique. Car si d’autres plateformes adoptent et améliorent ces modèles, Roblox bénéficiera en retour de leurs avancées, créant un cercle vertueux où la mutualisation des données d’entraînement renforce l’ensemble de l’écosystème. Combien d’acteurs de l’industrie accepteront de jouer le jeu et de contribuer à leur tour ? On le sait, un commun technologique ne vaut que par le nombre de ceux qui l’alimentent.
