Sistem verifikasi usia bertenaga AI yang dipuji-puji dari Roblox gagal total, hanya beberapa hari setelah diluncurkan. Peluncuran ini, yang dimaksudkan untuk melindungi pengguna muda dari predator, malah memicu kekacauan yang meluas, kesalahan identifikasi usia, memungkinkan terjadinya penipuan, dan menjauhkan pengguna.
Sistem Rusak
Roblox menerapkan pemindaian wajah untuk memperkirakan usia pengguna sebelum mengizinkan akses ke obrolan, awalnya di negara tertentu dan sekarang secara global. Tujuannya: untuk memastikan anak-anak berinteraksi terutama dengan teman sebayanya. Kenyataannya: sistem penuh dengan kesalahan. Para pemain melaporkan bahwa mereka salah diklasifikasikan sebagai lebih muda dan lebih tua dari usia sebenarnya, sementara para ahli mengatakan tindakan tersebut tidak banyak mencegah predator mengeksploitasi platform.
Parahnya, sistem ini mudah dielakkan. Daftar di eBay secara terbuka menjual akun terverifikasi untuk anak di bawah umur berusia sembilan tahun, beberapa hanya seharga $4. Meskipun eBay melanggar kebijakan, pasar untuk akses terverifikasi usia tetap ada. Chief safety officer Roblox mengakui bahwa peluncurannya tidak sempurna, dan menyebut skala platform yang sangat besar (lebih dari 150 juta pengguna setiap hari) sebagai sebuah tantangan. Namun, argumen ini tidak mengatasi kegagalan inti.
Tuntutan Hukum dan Aktivitas Predator
Peluncuran ini dilakukan di tengah meningkatnya tekanan hukum. Roblox menghadapi tuntutan hukum karena gagal melindungi anak-anak dari perawatan orang dewasa. Jaksa Agung di Louisiana, Texas, dan Kentucky telah mengajukan gugatan, sementara Jaksa Agung Florida telah mengeluarkan panggilan pengadilan pidana untuk menyelidiki apakah Roblox membantu predator.
Perusahaan mengklaim verifikasi usia akan memblokir interaksi orang dewasa dengan pengguna di bawah umur. Meskipun opsional, menolak verifikasi akan mengunci pemain dari obrolan, yang merupakan fitur inti Roblox. Verifikasi melibatkan pemindaian video oleh Persona (perusahaan estimasi usia AI) atau mengunggah tanda pengenal pemerintah untuk mereka yang berusia 13+ tahun. Roblox mengklaim data segera dihapus, tetapi ada banyak masalah privasi.
Penipuan dan Pemberontakan Pengguna
Pemain secara aktif mempermainkan sistem. Laporan menunjukkan pengguna menipu AI dengan avatar, foto selebriti yang sudah meninggal, atau bahkan fitur wajah yang digambar. Seorang anak laki-laki menggambar kerutan di wajahnya dengan spidol dan diberi peringkat 21+. Sementara itu, beberapa anak salah diklasifikasikan sebagai orang dewasa, dan sebaliknya.
Dampaknya sangat parah. Aktivitas obrolan dalam game menurun drastis, dengan salah satu pengembang melaporkan penurunan penggunaan obrolan teks sebesar 57%. Ribuan komentar negatif membanjiri forum pengembang Roblox, menuntut pembalikan pembaruan. Perusahaan mengatakan akan memeriksa ulang usia jika ada dugaan penipuan, namun rincian tentang cara kerjanya masih belum jelas.
Masalah Inti
Kegagalan sistem ini menggarisbawahi masalah penting: teknologi saja tidak dapat menyelesaikan masalah sosial yang kompleks seperti predasi online. Meskipun Roblox bertujuan untuk menciptakan lingkungan yang lebih aman, penerapannya saat ini tidak efektif dan berpotensi membahayakan. Desakan perusahaan terhadap peluncuran yang cacat, meskipun ada bukti jelas mengenai kekurangannya, menimbulkan pertanyaan serius mengenai komitmennya untuk melindungi pengguna muda.
Situasi ini menuntut pendekatan yang lebih komprehensif, termasuk peningkatan moderasi, mekanisme pelaporan yang kuat, dan kolaborasi penegakan hukum yang lebih kuat. Hingga saat ini, sistem verifikasi usia Roblox masih berupa ingkar janji.
