Das vielgepriesene KI-gestützte Altersverifizierungssystem von Roblox scheitert nur wenige Tage nach dem Start spektakulär. Die Einführung, die junge Benutzer vor Raubtieren schützen sollte, hat stattdessen ein weit verbreitetes Chaos ausgelöst, das zu falschen Altersangaben, Betrug und der Vertreibung von Benutzern geführt hat.
Das kaputte System
Roblox führte Gesichtsscans ein, um das Alter der Benutzer zu schätzen, bevor der Zugang zum Chat ermöglicht wurde, zunächst in ausgewählten Ländern und jetzt weltweit. Das Ziel: sicherzustellen, dass Kinder hauptsächlich mit Gleichaltrigen interagieren. Die Realität: Das System ist voller Fehler. Spieler berichten, dass sie fälschlicherweise sowohl als jünger als auch als älter als ihr tatsächliches Alter eingestuft wurden, während Experten sagen, dass die Maßnahme kaum dazu beiträgt, Raubtiere daran zu hindern, die Plattform auszunutzen.
Schlimmer noch: Das System lässt sich leicht umgehen. Bei eBay-Einträgen werden verifizierte Konten offen für Minderjährige im Alter von neun Jahren verkauft, einige für nur 4 US-Dollar. Trotz der Verstöße gegen die eBay-Richtlinien besteht der Markt für altersverifizierten Zugang weiterhin. Der Chief Safety Officer von Roblox räumt ein, dass die Einführung nicht perfekt sei, und nennt die enorme Größe der Plattform (über 150 Millionen tägliche Nutzer) als Herausforderung. Dieses Argument geht jedoch nicht auf die Kernfehler ein.
Klagen und Raubtieraktivitäten
Die Einführung erfolgt unter zunehmendem rechtlichen Druck. Roblox sieht sich mit Klagen konfrontiert, weil das Unternehmen es versäumt hat, Kinder vor der Körperpflege durch Erwachsene zu schützen. Generalstaatsanwälte in Louisiana, Texas und Kentucky haben Klagen eingereicht, während der Generalstaatsanwalt von Florida strafrechtliche Vorladungen erlassen hat, um zu untersuchen, ob Roblox Raubtieren hilft.
Das Unternehmen behauptet, dass die Altersverifizierung die Interaktion von Erwachsenen mit minderjährigen Benutzern blockieren wird. Die Verweigerung der Verifizierung ist zwar optional, sperrt Spieler jedoch vom Chat aus, einer Kernfunktion von Roblox. Die Verifizierung umfasst das Scannen von Videos durch Persona (ein Unternehmen zur KI-Altersschätzung) oder das Hochladen eines amtlichen Ausweises für Personen ab 13 Jahren. Roblox behauptet, Daten würden sofort gelöscht, es gibt jedoch zahlreiche Bedenken hinsichtlich des Datenschutzes.
Betrug und Benutzerrevolte
Spieler spielen aktiv mit dem System. Berichten zufolge betrügen Benutzer die KI mit Avataren, Fotos verstorbener Prominenter oder sogar gezeichneten Gesichtszügen. Ein Junge zeichnete mit einem Marker Falten auf sein Gesicht und wurde mit 21+ bewertet. Mittlerweile werden manche Kinder fälschlicherweise als Erwachsene eingestuft und umgekehrt.
Die Folgen sind schwerwiegend. Die Chat-Aktivität in Spielen ist stark zurückgegangen, wobei ein Entwickler einen Rückgang der Text-Chat-Nutzung um 57 % meldete. Tausende negative Kommentare überschwemmen das Entwicklerforum von Roblox und fordern die Rücknahme des Updates. Das Unternehmen kündigt an, dass es das Alter erneut prüfen werde, wenn ein Betrugsverdacht bestehe, Details darüber, wie dies funktionieren soll, seien jedoch noch unklar.
Das Kernproblem
Die Ausfälle des Systems unterstreichen ein kritisches Problem: Technologie allein kann komplexe soziale Probleme wie Online-Raubtiere nicht lösen. Während Roblox darauf abzielt, eine sicherere Umgebung zu schaffen, ist die aktuelle Implementierung ineffektiv und potenziell schädlich. Das Beharren des Unternehmens auf einer fehlerhaften Einführung trotz klarer Beweise für seine Mängel wirft ernsthafte Fragen zu seinem Engagement für den Schutz junger Benutzer auf.
Die Situation erfordert einen umfassenderen Ansatz, einschließlich verbesserter Moderation, robuster Meldemechanismen und einer stärkeren Zusammenarbeit bei der Strafverfolgung. Bis dahin bleibt das Altersverifizierungssystem von Roblox ein gebrochenes Versprechen.
