Nowy, szeroko reklamowany system weryfikacji wieku AI firmy Roblox zawiódł żałośnie zaledwie kilka dni po premierze. Wdrożenie, mające na celu ochronę młodych użytkowników przed drapieżnikami, spowodowało zamiast tego powszechny chaos: błędy związane z wiekiem, oszustwa i odpływ użytkowników.
Uszkodzony system
Roblox wprowadził skanowanie twarzy, aby z grubsza oszacować wiek użytkowników przed udzieleniem dostępu do czatu, najpierw w wybranych krajach, a teraz na całym świecie. Cel: zapewnienie dzieciom interakcji przede wszystkim z rówieśnikami. Rzeczywistość: system jest pełen błędów. Gracze zgłaszali, że zostali błędnie sklasyfikowani zarówno poniżej, jak i powyżej ich rzeczywistego wieku, a eksperci twierdzą, że to rozwiązanie w niewielkim stopniu zapobiega wykorzystywaniu platformy przez drapieżniki.
Co gorsza, system można łatwo ominąć. Zweryfikowane konta dla dzieci poniżej dziewiątego roku życia są powszechnie sprzedawane w serwisie eBay, niektóre za jedyne 4 dolary. Pomimo naruszeń zasad serwisu eBay, rynek zweryfikowanego dostępu nadal istnieje. Dyrektor ds. bezpieczeństwa Roblox przyznaje, że wdrożenie jest wadliwe, jako wyzwanie powołując się na samą skalę platformy (ponad 150 milionów użytkowników dziennie). Argument ten nie uwzględnia jednak kluczowych niedociągnięć.
Pozwy sądowe i działalność drapieżników
Uruchomienie systemu zbiegło się w czasie ze zwiększoną presją prawną. Roblox stoi przed procesami sądowymi zarzucającymi firmie, że nie zapewniła ochrony dzieciom przed pielęgnacją przez dorosłych. Prokuratorzy generalni w Luizjanie, Teksasie i Kentucky złożyli pozwy, a prokurator generalny Florydy wydał wezwania do sądu w celu zbadania, czy Roblox pomaga drapieżnikom.
Firma twierdzi, że weryfikacja wieku uniemożliwi dorosłym interakcję z nieletnimi użytkownikami. Chociaż weryfikacja jest opcjonalna, jej niezastosowanie zablokuje dostęp do czatu, kluczowej funkcji Roblox. Weryfikacja polega na zeskanowaniu filmu za pomocą Persony (firmy oceniającej wiek wykorzystującej sztuczną inteligencję) lub przesłaniu dokumentu tożsamości w przypadku osób powyżej 13 roku życia. Roblox twierdzi, że dane są natychmiast usuwane, ale rosną obawy dotyczące prywatności.
Oszustwo i bunt użytkowników
Gracze aktywnie oszukują system. Według doniesień użytkownicy oszukują sztuczną inteligencję za pomocą awatarów, zdjęć zmarłych gwiazd, a nawet rysowanych rysów twarzy. Jeden chłopiec narysował markerem zmarszczki i otrzymał notę 21+. Tymczasem niektóre dzieci są klasyfikowane jako osoby dorosłe i odwrotnie.
Konsekwencje są poważne. Aktywność czatów w grach gwałtownie spadła, a jeden z programistów zgłosił spadek wykorzystania czatów tekstowych o 57%. Tysiące negatywnych komentarzy zalewa forum programistów Roblox, żądając anulowania aktualizacji. Firma twierdzi, że w przypadku podejrzenia oszustwa dokładnie sprawdzi wiek, ale szczegóły dotyczące tego, jak to będzie działać, pozostają niejasne.
Istota problemu
Awarie systemu uwydatniają kluczową kwestię: sama technologia nie jest w stanie rozwiązać złożonych problemów społecznych, takich jak drapieżnictwo w Internecie. Chociaż Roblox stara się stworzyć bezpieczniejsze środowisko, obecne wdrożenie jest nieskuteczne i potencjalnie szkodliwe. Upieranie się firmy przy wadliwym wdrożeniu pomimo oczywistych wad rodzi poważne pytania dotyczące jej zaangażowania w ochronę młodych użytkowników.
Sytuacja wymaga bardziej kompleksowego podejścia, obejmującego lepszą moderację, solidne mechanizmy zgłaszania i bliższą współpracę z organami ścigania. Na razie system weryfikacji wieku Robloxa pozostaje niespełnioną obietnicą.
