Het veelgeprezen AI-aangedreven leeftijdsverificatiesysteem van Roblox faalt spectaculair, slechts enkele dagen na de lancering. De uitrol, bedoeld om jonge gebruikers te beschermen tegen roofdieren, heeft in plaats daarvan geleid tot wijdverbreide chaos, waarbij leeftijden verkeerd worden geïdentificeerd, fraude mogelijk wordt gemaakt en gebruikers worden verdreven.
Het kapotte systeem
Roblox implementeerde gezichtsscanning om de leeftijd van gebruikers te schatten voordat toegang tot chat werd toegestaan, aanvankelijk in geselecteerde landen en nu wereldwijd. Het doel: ervoor zorgen dat kinderen voornamelijk met leeftijdsgenoten omgaan. De realiteit: het systeem zit vol met fouten. Spelers melden dat ze ten onrechte zijn geclassificeerd als zowel jonger en ouder dan hun werkelijke leeftijd, terwijl experts zeggen dat de maatregel weinig doet om te voorkomen dat roofdieren het platform exploiteren.
Erger nog, het systeem kan gemakkelijk worden omzeild. Advertenties op eBay verkopen openlijk geverifieerde accounts voor minderjarigen vanaf negen jaar oud, sommige voor slechts $ 4. Ondanks de beleidsschendingen van eBay blijft de markt voor leeftijdsgecontroleerde toegang bestaan. De Chief Safety Officer van Roblox geeft toe dat de uitrol onvolmaakt is en noemt de enorme schaal van het platform (meer dan 150 miljoen dagelijkse gebruikers) een uitdaging. Dit argument gaat echter niet in op de kernfouten.
Rechtszaken en roofdieractiviteit
De uitrol komt onder toenemende juridische druk. Roblox wordt geconfronteerd met rechtszaken omdat het er niet in is geslaagd kinderen te beschermen tegen verzorging door volwassenen. Procureurs-generaal in Louisiana, Texas en Kentucky hebben rechtszaken aangespannen, terwijl de procureur-generaal van Florida strafrechtelijke dagvaardingen heeft uitgevaardigd om te onderzoeken of Roblox roofdieren helpt.
Het bedrijf beweert dat leeftijdsverificatie de interactie van volwassenen met minderjarige gebruikers zal blokkeren. Hoewel het optioneel is, sluit het weigeren van verificatie spelers uit van de chat, een kernfunctie van Roblox. Verificatie omvat het scannen van video’s door Persona (een AI-bedrijf voor leeftijdsschatting) of het uploaden van een overheids-ID voor personen van 13 jaar en ouder. Roblox beweert dat gegevens onmiddellijk worden verwijderd, maar er zijn veel zorgen over de privacy.
Fraude en gebruikersopstand
Spelers spelen actief op het systeem. Uit rapporten blijkt dat gebruikers de AI voor de gek houden met avatars, foto’s van overleden beroemdheden of zelfs getekende gelaatstrekken. Eén jongen tekende rimpels op zijn gezicht met een stift en kreeg de beoordeling 21+. Ondertussen worden sommige kinderen verkeerd geclassificeerd als volwassenen, en omgekeerd.
De gevolgen zijn ernstig. De chatactiviteit in games is sterk gedaald, waarbij één ontwikkelaar een daling van 57% in het gebruik van tekstchats meldt. Duizenden negatieve reacties overspoelen het ontwikkelaarsforum van Roblox en eisen dat de update wordt teruggedraaid. Het bedrijf zegt dat het de leeftijden opnieuw zal controleren als er een vermoeden van fraude bestaat, maar details over hoe dit zal werken blijven onduidelijk.
Het kernprobleem
De tekortkomingen van het systeem onderstrepen een cruciaal probleem: technologie alleen kan complexe sociale problemen zoals online predatie niet oplossen. Hoewel Roblox ernaar streeft een veiliger omgeving te creëren, is de huidige implementatie ineffectief en potentieel schadelijk. Het feit dat het bedrijf aandringt op een gebrekkige uitrol, ondanks duidelijk bewijs van de tekortkomingen, roept serieuze vragen op over zijn inzet voor de bescherming van jonge gebruikers.
De situatie vereist een meer alomvattende aanpak, inclusief verbeterde moderatie, robuuste rapportagemechanismen en sterkere samenwerking op het gebied van wetshandhaving. Tot die tijd blijft het leeftijdsverificatiesysteem van Roblox een gebroken belofte.
