Joshua Achiam sudah tiada.
Dia adalah Kepala Futuris OpenAI, sebuah gelar yang terdengar agak berlebihan sampai Anda menyadari bahwa dialah orang yang bertugas menjaga perusahaan agar tidak kehilangan jiwanya. Dia memberi tahu rekan-rekannya pada hari Selasa bahwa dia akan mengundurkan diri pada akhir bulan ini. Sembilan tahun dia tinggal. Itu adalah pengalaman seumur hidup di Silicon Valley.
Itu bukanlah skandal yang meledak-ledak. Tidak terlalu. Hanya pemikiran lama yang menjadi sebuah tindakan. Dia mengatakan kepada staf bahwa itu adalah sesuatu yang dia pikirkan selama beberapa waktu, bukan reaksi terhadap satu peristiwa tertentu. Dunia kini mengetahui rahasianya, katanya, menyiratkan bahwa Anda tidak perlu lagi berada di dalam laboratorium perbatasan untuk memperjuangkan keselamatan. Anda bisa melakukannya dari luar.
“Dunia sedang mengetahui rahasianya,” tulisnya.
Dia masih percaya pada utopia: perdamaian, kemakmuran, kemungkinan tak terbatas. Dia akan terus mengejarnya. Hanya saja, tidak dari dalam tembok khusus ini.
Siapa yang mengisi kursi tersebut? OpenAI belum mengatakannya. Perannya berada tepat di antara tim kebijakan dan keselamatan, mempelajari apa yang benar dan apa yang salah seiring dengan peningkatan AI. Dia bekerja dengan Chris Lehane, kepala urusan global, mendorong peraturan pemerintah yang benar-benar selaras dengan misi nirlaba untuk memberi manfaat bagi seluruh umat manusia. Ini adalah penjualan yang sulit ketika perusahaan telah menjadi monster pencetak uang.
Sejak ChatGPT meledak pada tahun 2022, bagan organisasi tampak seperti setumpuk kartu yang diacak. Direorganisasi, digabungkan, dibubarkan. Pada tahun 2024 Achiam memimpin “Tim Penyelarasan Misi” untuk jangka waktu yang singkat dan intens. Kemudian dibubarkan pada bulan Februari. Dia malah mendapat gelar baru: Kepala Futuris. Sekarang dia sudah pergi.
Perusahaan ini mencoba menjembatani kesenjangan antara penelitian dan kebijakan, berupaya keras membuat peraturan sebelum teknologi melampauinya. Boaz Barak, Noam, dan lainnya telah menggali kebijakan, sehingga semakin mengaburkan batas-batas tersebut. Masukkan Dean Ball, mantan penasihat AI Gedung Putih. Dia mulai minggu ini sebagai kepala masa depan strategis. Dia dan Achiam akan tumpang tindih sebentar, mengoper tongkat estafet di tengah hujan.
Tapi lihatlah jalan keluarnya. Ini adalah parade.
Achiam bergabung dengan daftar pemimpin keselamatan yang melarikan diri dari kapal sebelum bel IPO. Jan Leike? Dia ikut memimpin superalignment dan pergi ke Anthropic. Miles Brundage dan Steven Adams berangkat bersama untuk membangun organisasi nirlaba yang menuntut standar yang lebih ketat. Andrea Vallone mengikuti Leike.
Mengapa eksodus? Mungkin karena tinggal di dalam semakin sulit. Atau mungkin mereka hanya tidak setuju dengan lintasannya.
Achiam bukan hanya seorang elang keselamatan; dia kontroversial. Dia kadang-kadang mengkritik komunitasnya sendiri. Dia juga terkenal kurang ajar.
Ingat 2018? Elon Musk meninggalkan OpenAI. Ia memberikan pidato perpisahan tentang membangun AGI di Tesla. Achiam memotongnya. Menyebutkan risiko keamanan dari rencana Musk. Musk menyebutnya “orang bodoh”.
Apakah Anda menangkap bagian akhirnya? Dario Amodei dan David Luan—sekarang di Anthropic dan Amazon AGI—memberi Achiam hadiah atas keberaniannya. Patung emas bagian belakang keledai. Jangan pernah berhenti menjadi orang bodoh.
Achiam menyimpannya. Mungkin dipasang tinggi-tinggi.
Sekarang dia keluar sebagai file OpenAI secara rahasia untuk IPO, tepat setelah Anthropic melakukan hal yang sama. Permainan telah berubah. Para pemain lelah.
Dan apa yang terjadi ketika penjaga terakhir keluar dari pintu?
