Новая, широко разрекламированная система возрастной верификации на базе ИИ от Roblox провалилась с треском, всего через несколько дней после запуска. Внедрение, призванное защитить юных пользователей от хищников, вместо этого спровоцировало масштабный хаос: ошибки в определении возраста, мошенничество и отток пользователей.
Сломанная Система
Roblox внедрила сканирование лиц для приблизительной оценки возраста пользователей перед предоставлением доступа к чату, сначала в отдельных странах, а теперь и по всему миру. Цель: обеспечить взаимодействие детей преимущественно со сверстниками. Реальность: система полна ошибок. Игроки сообщают о неправильной классификации как в меньшую, так и в большую сторону от их фактического возраста, а эксперты утверждают, что эта мера мало что дает для предотвращения эксплуатации платформы хищниками.
Хуже того, систему легко обойти. На eBay открыто продаются верифицированные аккаунты для детей младше девяти лет, некоторые всего за 4 доллара. Несмотря на нарушения политики eBay, рынок верифицированного доступа сохраняется. Главный специалист по безопасности Roblox признает, что внедрение несовершенно, ссылаясь на огромный масштаб платформы (более 150 миллионов ежедневных пользователей) как на проблему. Однако этот аргумент не решает ключевых недостатков.
Судебные Иски и Активность Хищников
Запуск системы совпал с ростом юридического давления. Roblox сталкивается с исками, утверждающими, что компания не защитила детей от груминга со стороны взрослых. Генеральные прокуроры Луизианы, Техаса и Кентукки подали иски, а генеральный прокурор Флориды выдал уголовные повестки, расследующие, помогает ли Roblox хищникам.
Компания утверждает, что верификация возраста заблокирует взаимодействие взрослых с несовершеннолетними пользователями. Хотя верификация необязательна, отказ от нее блокирует доступ к чату, ключевой функции Roblox. Верификация включает сканирование видео с помощью Persona (компании, оценивающей возраст с помощью ИИ) или загрузку удостоверения личности для лиц старше 13 лет. Roblox утверждает, что данные удаляются немедленно, но опасения по поводу конфиденциальности растут.
Мошенничество и Бунт Пользователей
Игроки активно обманывают систему. Сообщается, что пользователи обманывают ИИ с помощью аватарок, фотографий умерших знаменитостей или даже нарисованных черт лица. Один мальчик нарисовал морщины маркером и получил оценку 21+. Тем временем некоторых детей классифицируют как взрослых, и наоборот.
Последствия серьезны. Активность в чатах в играх резко упала: один разработчик сообщил о снижении использования текстового чата на 57%. Тысячи негативных комментариев заваливают форум разработчиков Roblox, требуя отменить обновление. Компания заявляет, что будет перепроверять возраст при подозрении на мошенничество, но подробности о том, как это будет работать, остаются неясными.
Суть Проблемы
Неудачи системы подчеркивают критическую проблему: технологии в одиночку не могут решить сложные социальные проблемы, такие как онлайн-хищничество. Хотя Roblox стремится создать более безопасную среду, текущая реализация неэффективна и потенциально вредна. Настаивание компании на неисправном внедрении, несмотря на очевидные недостатки, вызывает серьезные вопросы о ее приверженности защите молодых пользователей.
Ситуация требует более комплексного подхода, включая улучшенную модерацию, надежные механизмы отчетности и более тесное сотрудничество с правоохранительными органами. Пока же система возрастной верификации Roblox остается несбывшимся обещанием.