El muy promocionado sistema de verificación de edad impulsado por IA de Roblox está fallando espectacularmente, pocos días después de su lanzamiento. El lanzamiento, destinado a proteger a los usuarios jóvenes de los depredadores, ha provocado un caos generalizado, identificando erróneamente las edades, permitiendo el fraude y ahuyentando a los usuarios.
El sistema roto
Roblox implementó el escaneo facial para estimar las edades de los usuarios antes de permitir el acceso al chat, inicialmente en países seleccionados y ahora a nivel mundial. El objetivo: garantizar que los niños interactúen principalmente con sus compañeros. La realidad: el sistema está plagado de errores. Los jugadores informan que se les clasifica erróneamente como más jóvenes y mayores que su edad real, mientras que los expertos dicen que la medida hace poco para evitar que los depredadores exploten la plataforma.
Peor aún, el sistema es fácilmente eludido. Los listados en eBay venden abiertamente cuentas verificadas para menores de hasta nueve años, algunas por tan solo 4 dólares. A pesar de las violaciones de la política de eBay, el mercado de acceso con edad verificada persiste. El director de seguridad de Roblox admite que la implementación es imperfecta y cita la escala masiva de la plataforma (más de 150 millones de usuarios diarios) como un desafío. Sin embargo, este argumento no aborda los principales fallos.
Demandas y actividad depredadora
El lanzamiento se produce en medio de una creciente presión legal. Roblox enfrenta demandas que alegan que no protegió a los niños del acoso de los adultos. Los fiscales generales de Luisiana, Texas y Kentucky han presentado demandas, mientras que el fiscal general de Florida ha emitido citaciones penales para investigar si Roblox ayuda a los depredadores.
La empresa afirma que la verificación de edad bloqueará la interacción de adultos con usuarios menores de edad. Si bien es opcional, rechazar la verificación bloquea a los jugadores fuera del chat, una característica central de Roblox. La verificación implica el escaneo de video por parte de Persona (una empresa de estimación de edad de IA) o la carga de una identificación gubernamental para mayores de 13 años. Roblox afirma que los datos se eliminan inmediatamente, pero abundan las preocupaciones sobre la privacidad.
Fraude y revuelta de usuarios
Los jugadores están jugando activamente con el sistema. Los informes muestran que los usuarios engañan a la IA con avatares, fotografías de celebridades fallecidas o incluso rasgos faciales dibujados. Un niño se dibujó arrugas en la cara con un marcador y fue clasificado como mayor de 21 años. Mientras tanto, algunos niños están siendo clasificados erróneamente como adultos y viceversa.
Las consecuencias son graves. La actividad del chat en los juegos se ha desplomado y un desarrollador informó una caída del 57% en el uso del chat de texto. Miles de comentarios negativos inundan el foro de desarrolladores de Roblox, exigiendo la revocación de la actualización. La compañía dice que volverá a verificar las edades si se sospecha de fraude, pero los detalles sobre cómo funcionará aún no están claros.
El problema central
Las fallas del sistema subrayan una cuestión crítica: la tecnología por sí sola no puede resolver problemas sociales complejos como la depredación en línea. Si bien Roblox apunta a crear un entorno más seguro, la implementación actual es ineficaz y potencialmente dañina. La insistencia de la empresa en una implementación defectuosa, a pesar de la clara evidencia de sus deficiencias, plantea serias dudas sobre su compromiso de proteger a los usuarios jóvenes.
La situación exige un enfoque más integral, que incluya una mayor moderación, mecanismos sólidos de presentación de informes y una colaboración más estrecha en materia de aplicación de la ley. Hasta entonces, el sistema de verificación de edad de Roblox sigue siendo una promesa incumplida.
