Le système de vérification de l’âge très vanté de Roblox, alimenté par l’IA, échoue de façon spectaculaire, quelques jours seulement après son lancement. Le déploiement, destiné à protéger les jeunes utilisateurs des prédateurs, a plutôt déclenché un chaos généralisé, identifiant mal les âges, permettant la fraude et faisant fuir les utilisateurs.
Le système brisé
Roblox a mis en œuvre une analyse faciale pour estimer l’âge des utilisateurs avant d’autoriser l’accès au chat, initialement dans certains pays et maintenant dans le monde entier. L’objectif : faire en sorte que les enfants interagissent principalement avec leurs pairs. La réalité : le système est truffé d’erreurs. Les joueurs déclarent avoir été classés à tort comme étant à la fois plus jeunes et plus âgés que leur âge réel, tandis que les experts affirment que la mesure ne fait pas grand-chose pour empêcher les prédateurs d’exploiter la plateforme.
Pire encore, le système est facilement contournable. Les annonces sur eBay vendent ouvertement des comptes vérifiés pour des mineurs dès l’âge de neuf ans, certains pour aussi peu que 4 $. Malgré les violations de la politique d’eBay, le marché de l’accès vérifié par âge persiste. Le responsable de la sécurité de Roblox admet que le déploiement est imparfait, citant l’échelle massive de la plateforme (plus de 150 millions d’utilisateurs quotidiens) comme un défi. Cependant, cet argument ne répond pas aux principaux échecs.
Poursuites judiciaires et activité des prédateurs
Le déploiement intervient dans un contexte de pression juridique croissante. Roblox fait face à des poursuites judiciaires alléguant qu’il n’a pas réussi à protéger les enfants contre le toilettage par des adultes. Les procureurs généraux de Louisiane, du Texas et du Kentucky ont intenté des poursuites, tandis que le procureur général de Floride a émis des assignations à comparaître au pénal pour déterminer si Roblox aidait les prédateurs.
La société affirme que la vérification de l’âge bloquera l’interaction des adultes avec les utilisateurs mineurs. Bien que facultatif, le refus de la vérification bloque les joueurs hors du chat, une fonctionnalité essentielle de Roblox. La vérification implique la numérisation vidéo par Persona (une société d’estimation de l’âge par l’IA) ou le téléchargement d’une pièce d’identité gouvernementale pour les 13 ans et plus. Roblox affirme que les données sont supprimées immédiatement, mais les problèmes de confidentialité sont nombreux.
Fraude et révolte des utilisateurs
Les joueurs jouent activement avec le système. Des rapports montrent des utilisateurs trompant l’IA avec des avatars, des photos de célébrités décédées ou même des traits du visage dessinés. Un garçon a dessiné des rides sur son visage avec un marqueur et a été noté 21+. Pendant ce temps, certains enfants sont classés à tort comme adultes, et vice versa.
Les conséquences sont graves. L’activité de chat dans les jeux a chuté, un développeur signalant une baisse de 57 % de l’utilisation du chat textuel. Des milliers de commentaires négatifs inondent le forum des développeurs de Roblox, exigeant l’annulation de la mise à jour. La société affirme qu’elle revérifiera l’âge si une fraude est suspectée, mais les détails sur la manière dont cela fonctionnera restent flous.
Le problème principal
Les échecs du système soulignent un problème critique : la technologie à elle seule ne peut pas résoudre des problèmes sociaux complexes comme la prédation en ligne. Même si Roblox vise à créer un environnement plus sûr, la mise en œuvre actuelle est inefficace et potentiellement dangereuse. L’insistance de l’entreprise sur un déploiement défectueux, malgré des preuves évidentes de ses lacunes, soulève de sérieuses questions sur son engagement à protéger les jeunes utilisateurs.
La situation exige une approche plus globale, comprenant une modération améliorée, des mécanismes de signalement robustes et une collaboration plus étroite entre les forces de l’ordre. En attendant, le système de vérification de l’âge de Roblox reste une promesse non tenue.
