Joshua Achiam пішов.
Він обіймав посаду головного футуриста в OpenAI – посаду, яка звучить трохи туманно, якщо не розуміти, що він був тією самою людиною, яка мала не допустити, щоб компанія втратила свою душу. У вівторок він повідомив колег про те, що залишає свою посаду наприкінці місяця. Дев’ять років він пропрацював у компанії. Такий термін – ціла вічність для Кремнієвої долини.
Це не був якийсь вибуховий скандал. Принаймні не в повному розумінні цього слова. Просто давня думка перетворилася на дію. Він сказав співробітникам, що про це думав уже якийсь час, а не реагує на конкретну подію. “Світ тепер знає секрет”, – написав він, маючи на увазі, що більше не обов’язково перебувати всередині передових лабораторій, щоб боротися за безпеку ІІ. Це можна робити і ззовні.
“Світ тепер в курсі цього секрету”, – написав він.
Він усе ще вірить у утопічний план: світ, процвітання, нескінченні можливості. Він продовжить за цим гнатися. Просто не всередині цих стінок.
Хто займе його місце? В OpenAI поки що не повідомляли. Його роль перебувала на тонкій межі між командами політики та безпеки, займаючись аналізом того, що йде добре, а що може призвести до катастрофічних наслідків при масштабуванні ІІ. Він працював разом із Крісом Леханом, керівником глобальних відносин, просуваючи державні регуляції, які б відповідали некомерційній місії компанії — приносити користь усьому людству. Непросте завдання, коли компанія стала справжнім монстром.
Після вибухової популярності ChatGPT у 2022 році організаційна структура OpenAI нагадувала колоду карт, яку хтось активно перетасовував. Реорганізації, злиття, розпуск. У 2024 році Achiam очолив команду місійного вирівнювання (Mission Alignment Team) на короткий, але інтенсивний період. Потім команду було розпущено у лютому. Натомість йому дали нову посаду: головний футурист. І ось він пішов.
Компанія намагається подолати розрив між дослідженнями та політикою, поспішаючи створити правила до того, як технології випередять їх усіх. Боаз Барак, Ноам Шнейдер та інші активно долучилися до роботи з політикою, стираючи кордони ще більше. На сцену виходить Дін Бал, колишній радник Білого дому з питань ІІ. Він розпочинає роботу на посаді керівника стратегічних перспектив цього ж тижня. Його та Achiam’а на кілька днів об’єднає передача естафети під дощем.
Але давайте подивимося на низку доглядів. Це парад.
Achiam приєднався до списку безпекових лідерів, які покинули корабель перед стартом IPO. Ден Лейк? Він співосновав проект надвирівнювання (superalignment) і пішов до Anthropic. Майлз Брандадж і Стівен Едмс пішли разом, щоб створити некомерційні організації, які вимагають суворіших стандартів безпеки. Андреа Валлоне пішов за Лейком.
Чому такий результат? Можливо, тому, що залишитися всередині стає все важче. Або, можливо, просто тому, що вони не погоджуються з обраною траєкторією розвитку.
Achiam не був просто яструбом у питаннях безпеки – він був і суперечливою фігурою. Іноді він критикував свою власну спільноту. Він також славився своєю прямотою.
Пам’ятаєте 2018? Ілон Маск залишив OpenAI. Він сказав прощальну промову про створення AGI в Tesla. Achiam перервав його, вказавши на ризики безпеки у плані Маска. Маск назвав його “мудак”.
Побачили кінцівку? Даріко Амодей і Девід Луан, що нині працюють в Anthropic та Amazon AGI, подарували Achiam за його хоробрість золоту статую заднього кінця осла. Ніколи не переставай бути мудак.
Achiam зберіг її. Мабуть, повісив високо.
Тепер він йде в момент, коли OpenAI подає заявку на IPO конфіденційно, одразу після аналогічного кроку Anthropic. Гра змінилася. Гравці втомились.
І що буде, коли останні варти вийдуть за двері?
