Nový, velmi propagovaný systém ověřování věku pomocí umělé inteligence Roblox jen několik dní po spuštění žalostně selhal. Zavedení, které mělo chránit mladé uživatele před predátory, místo toho způsobilo všeobecný chaos: věkové chyby, podvody a odchod uživatelů.
Rozbitý systém
Roblox zavedl skenování obličeje, aby zhruba odhadl věk uživatelů před udělením přístupu k chatu, nejprve ve vybraných zemích a nyní po celém světě. Cíl: zajistit, aby děti komunikovaly především se svými vrstevníky. Realita: systém je plný chyb. Hráči hlásili, že byli nesprávně klasifikováni pod i nad svým skutečným věkem, a odborníci tvrdí, že opatření jen málo brání predátorům ve využívání platformy.
Horší je, že systém lze snadno obejít. Ověřené účty pro děti do devíti let se otevřeně prodávají na eBay, některé již za 4 dolary. Navzdory porušování zásad eBay přetrvává trh s ověřeným přístupem. Hlavní bezpečnostní ředitel Robloxu připouští, že zavádění je chybné, přičemž jako výzvu uvádí pouhý rozsah platformy (více než 150 milionů uživatelů denně). Tento argument však neřeší klíčové nedostatky.
Soudní spory a aktivita predátorů
Spuštění systému se časově shodovalo se zvýšeným právním tlakem. Roblox čelí žalobám, které tvrdí, že společnost nedokázala ochránit děti před úpravou ze strany dospělých. Generální prokurátori v Louisianě, Texasu a Kentucky podali žaloby a floridský generální prokurátor vydal trestní oznámení, která vyšetřují, zda Roblox napomáhá predátorům.
Společnost tvrdí, že ověření věku bude blokovat dospělé v interakci s nezletilými uživateli. I když je ověření volitelné, pokud tak neučiníte, zablokuje se přístup k chatu, což je klíčová funkce Robloxu. Ověření zahrnuje naskenování videa pomocí Persona (společnost, která hodnotí věk pomocí AI) nebo nahrání ID pro osoby starší 13 let. Roblox říká, že data jsou okamžitě smazána, ale obavy o soukromí rostou.
Podvody a vzpoura uživatelů
Hráči aktivně podvádějí systém. Uživatelé údajně klamou AI pomocí avatarů, fotografií zesnulých celebrit nebo dokonce nakreslených rysů obličeje. Jeden chlapec nakreslil vrásky fixem a získal skóre 21+. Mezitím jsou některé děti klasifikovány jako dospělé a naopak.
Následky jsou vážné. Chatová aktivita ve hrách prudce klesla, přičemž jeden vývojář hlásí 57% pokles využití textového chatu. Vývojářské fórum Roblox zaplavují tisíce negativních komentářů, které požadují zrušení aktualizace. Společnost říká, že při podezření na podvod bude znovu kontrolovat věk, ale podrobnosti o tom, jak to bude fungovat, zůstávají nejasné.
Podstata problému
Selhání systému zdůrazňují kritický problém: technologie sama o sobě nemůže vyřešit složité sociální problémy, jako je online predace. Zatímco Roblox usiluje o vytvoření bezpečnějšího prostředí, současná implementace je neúčinná a potenciálně škodlivá. Trvání společnosti na chybné implementaci navzdory zjevným nedostatkům vyvolává vážné otázky ohledně jejího závazku chránit mladé uživatele.
Situace vyžaduje komplexnější přístup, včetně lepší umírněnosti, robustních mechanismů podávání zpráv a užší spolupráce s donucovacími orgány. Systém ověřování věku Roblox zatím zůstává nesplněným slibem.
