O altamente elogiado sistema de verificação de idade baseado em IA do Roblox está falhando espetacularmente, poucos dias após o lançamento. A implementação, destinada a proteger os jovens utilizadores de predadores, desencadeou, em vez disso, um caos generalizado, identificando erroneamente as idades, permitindo fraudes e afastando os utilizadores.
O sistema quebrado
A Roblox implementou a digitalização facial para estimar a idade dos usuários antes de permitir o acesso ao bate-papo, inicialmente em países selecionados e agora em todo o mundo. O objetivo: garantir que as crianças interajam principalmente com os colegas. A realidade: o sistema está repleto de erros. Os jogadores relatam ter sido classificados erroneamente como mais jovens e mais velhos do que sua idade real, enquanto os especialistas dizem que a medida faz pouco para evitar que predadores explorem a plataforma.
Pior ainda, o sistema é facilmente contornado. Listagens no eBay vendem abertamente contas verificadas para menores de nove anos de idade, algumas por apenas US$ 4. Apesar das violações da política do eBay, o mercado de acesso com verificação de idade persiste. O diretor de segurança da Roblox admite que o lançamento é imperfeito, citando a enorme escala da plataforma (mais de 150 milhões de usuários diários) como um desafio. No entanto, este argumento não aborda as falhas principais.
Ações judiciais e atividades de predadores
O lançamento ocorre em meio à crescente pressão legal. Roblox enfrenta ações judiciais alegando que não protegeu as crianças do aliciamento dos adultos. Os procuradores-gerais da Louisiana, Texas e Kentucky entraram com ações, enquanto o procurador-geral da Flórida emitiu intimações criminais para investigar se Roblox ajuda predadores.
A empresa afirma que a verificação de idade bloqueará a interação de adultos com usuários menores de idade. Embora seja opcional, recusar a verificação impede os jogadores de conversar, um recurso central do Roblox. A verificação envolve a digitalização de vídeo pela Persona (uma empresa de estimativa de idade de IA) ou o upload de uma identificação governamental para maiores de 13 anos. Roblox afirma que os dados são excluídos imediatamente, mas abundam as preocupações com a privacidade.
Fraude e revolta dos usuários
Os jogadores estão jogando ativamente no sistema. Os relatórios mostram usuários enganando a IA com avatares, fotos de celebridades falecidas ou até mesmo traços faciais desenhados. Um menino desenhou rugas no rosto com um marcador e foi classificado como 21+. Entretanto, algumas crianças estão a ser erroneamente classificadas como adultos e vice-versa.
As consequências são graves. A atividade de bate-papo em jogos despencou, com um desenvolvedor relatando uma queda de 57% no uso de bate-papo por texto. Milhares de comentários negativos inundam o fórum de desenvolvedores do Roblox, exigindo a reversão da atualização. A empresa afirma que verificará novamente as idades se houver suspeita de fraude, mas os detalhes sobre como isso funcionará ainda não estão claros.
O problema central
As falhas do sistema sublinham uma questão crítica: a tecnologia por si só não pode resolver problemas sociais complexos como a predação online. Embora o Roblox pretenda criar um ambiente mais seguro, a implementação atual é ineficaz e potencialmente prejudicial. A insistência da empresa numa implementação falha, apesar das claras evidências das suas deficiências, levanta sérias questões sobre o seu compromisso em proteger os jovens utilizadores.
A situação exige uma abordagem mais abrangente, incluindo uma moderação melhorada, mecanismos de denúncia robustos e uma colaboração mais forte na aplicação da lei. Até então, o sistema de verificação de idade do Roblox continua sendo uma promessa quebrada.
