Нова, широко розрекламована система перевірки віку AI від Roblox з тріском провалилася всього через кілька днів після запуску. Розгортання, спрямоване на захист молодих користувачів від хижаків, натомість спричинило масовий хаос: вікові помилки, шахрайство та відтік користувачів.
Зламана система
Roblox запровадив сканування обличчя, щоб приблизно оцінити вік користувачів перед наданням доступу до чату, спочатку в окремих країнах, а тепер і в усьому світі. Мета: забезпечити спілкування дітей насамперед з однолітками. Реальність: система повна помилок. Гравці повідомляють, що їх неправильно класифікують як нижче, так і вище їх фактичного віку, і експерти кажуть, що цей захід мало допомагає запобігти хижакам від експлуатації платформи.
Гірше того, систему легко обійти. Перевірені облікові записи для дітей віком до дев’яти років відкрито продаються на eBay, деякі коштують лише 4 долари. Незважаючи на порушення політики eBay, ринок перевіреного доступу зберігається. Керівник служби безпеки Roblox визнає, що розгортання є помилковим, посилаючись на величезний масштаб платформи (понад 150 мільйонів щоденних користувачів) як на виклик. Однак цей аргумент не стосується ключових недоліків.
Судові позови та діяльність хижаків
Запуск системи збігся з посиленням правового тиску. Roblox стикається з судовими позовами, стверджуючи, що компанія не змогла захистити дітей від догляду дорослих. Генеральні прокурори в Луїзіані, Техасі та Кентуккі подали позови, а генеральний прокурор Флориди видав повістки про кримінальні розслідування, чи Roblox допомагає хижакам.
У компанії стверджують, що перевірка віку блокуватиме дорослих від взаємодії з неповнолітніми користувачами. Хоча перевірка необов’язкова, якщо її не зробити, доступ до чату, ключової функції Roblox, буде заблоковано. Перевірка передбачає сканування відео за допомогою Persona (компанії, що оцінює вік за допомогою штучного інтелекту) або завантаження посвідчення особи старше 13 років. Roblox каже, що дані видаляються негайно, але занепокоєння щодо конфіденційності зростає.
Шахрайство та повстання користувачів
Гравці активно обманюють систему. Повідомляється, що користувачі обманюють ШІ за допомогою аватар, фотографій померлих знаменитостей або навіть намальованих рис обличчя. Один хлопець намалював зморшки фломастером і отримав оцінку 21+. При цьому деяких дітей зараховують до дорослих і навпаки.
Наслідки серйозні. Активність чату в іграх різко впала, один розробник повідомив про зниження використання текстового чату на 57%. Тисячі негативних коментарів заполонили форум розробників Roblox з вимогою скасувати оновлення. Компанія заявляє, що при підозрі на шахрайство повторно перевірить вік, але деталі того, як це працюватиме, залишаються незрозумілими.
Суть проблеми
Збої в системі висвітлюють критичну проблему: сама по собі технологія не може вирішити складні соціальні проблеми, такі як грабіжництво в Інтернеті. Хоча Roblox прагне створити безпечніше середовище, поточне впровадження є неефективним і потенційно шкідливим. Наполягання компанії на недосконалій реалізації, незважаючи на очевидні недоліки, викликає серйозні сумніви щодо її зобов’язань щодо захисту молодих користувачів.
Ситуація вимагає комплекснішого підходу, включаючи покращену модерацію, надійні механізми звітності та тіснішу співпрацю з правоохоронними органами. Наразі система перевірки віку Roblox залишається невиконаною обіцянкою.
