Il tanto pubblicizzato sistema di verifica dell’età basato sull’intelligenza artificiale di Roblox sta fallendo in modo spettacolare, pochi giorni dopo il lancio. Il lancio, inteso a salvaguardare i giovani utenti dai predatori, ha invece innescato un caos diffuso, identificando erroneamente l’età, consentendo frodi e allontanando gli utenti.
Il sistema rotto
Roblox ha implementato la scansione del volto per stimare l’età degli utenti prima di consentire l’accesso alla chat, inizialmente in paesi selezionati e ora a livello globale. L’obiettivo: garantire che i bambini interagiscano principalmente con i coetanei. La realtà: il sistema è pieno di errori. I giocatori riferiscono di essere stati erroneamente classificati come più giovani e più vecchi della loro età effettiva, mentre gli esperti affermano che la misura fa ben poco per impedire ai predatori di sfruttare la piattaforma.
Quel che è peggio è che il sistema è facilmente aggirabile. Le inserzioni su eBay vendono apertamente account verificati per minori di appena nove anni, alcuni per soli 4 dollari. Nonostante le violazioni delle politiche di eBay, il mercato dell’accesso verificato in base all’età persiste. Il responsabile della sicurezza di Roblox ammette che l’implementazione è imperfetta, citando l’enorme scala della piattaforma (oltre 150 milioni di utenti giornalieri) come una sfida. Tuttavia, questo argomento non affronta i fallimenti principali.
Cause legali e attività di predatori
Il lancio avviene nel mezzo di una crescente pressione legale. Roblox deve affrontare azioni legali per non aver protetto i bambini dall’adescamento da parte degli adulti. I procuratori generali in Louisiana, Texas e Kentucky hanno intentato causa, mentre il procuratore generale della Florida ha emesso mandati di comparizione penali per indagare se Roblox aiuti i predatori.
L’azienda afferma che la verifica dell’età bloccherà l’interazione degli adulti con utenti minorenni. Sebbene sia facoltativo, il rifiuto della verifica blocca i giocatori fuori dalla chat, una funzionalità fondamentale di Roblox. La verifica prevede la scansione video da parte di Persona (una società di stima dell’età basata sull’intelligenza artificiale) o il caricamento di un documento d’identità governativo per chi ha più di 13 anni. Roblox afferma che i dati vengono eliminati immediatamente, ma le preoccupazioni sulla privacy abbondano.
Frode e rivolta degli utenti
I giocatori stanno giocando attivamente al sistema. I rapporti mostrano che gli utenti ingannano l’intelligenza artificiale con avatar, foto di celebrità decedute o persino tratti del viso disegnati. Un ragazzo ha disegnato le rughe sul viso con un pennarello ed è stato valutato 21+. Nel frattempo, alcuni bambini vengono erroneamente classificati come adulti e viceversa.
Le conseguenze sono gravi. L’attività di chat nei giochi è crollata, con uno sviluppatore che ha segnalato un calo del 57% nell’utilizzo della chat di testo. Migliaia di commenti negativi inondano il forum degli sviluppatori di Roblox, chiedendo l’annullamento dell’aggiornamento. La società afferma che ricontrollerà le età se si sospetta una frode, ma i dettagli su come funzionerà rimangono poco chiari.
Il problema principale
I fallimenti del sistema sottolineano una questione critica: la tecnologia da sola non può risolvere problemi sociali complessi come la predazione online. Mentre Roblox mira a creare un ambiente più sicuro, l’attuale implementazione è inefficace e potenzialmente dannosa. L’insistenza dell’azienda su un’implementazione imperfetta, nonostante le prove evidenti delle sue carenze, solleva seri interrogativi sul suo impegno nel proteggere i giovani utenti.
La situazione richiede un approccio più globale, che includa una migliore moderazione, robusti meccanismi di segnalazione e una più forte collaborazione tra le forze dell’ordine. Fino ad allora, il sistema di verifica dell’età di Roblox rimane una promessa non mantenuta.
