Joshua Achiam ушёл.
Он занимал пост главного футуриста в OpenAI — должность, которая звучит немного туманно, если не понимать, что он был тем самым человеком, который должен был не допустить, чтобы компания потеряла свою душу. Во вторник он уведомил коллег о том, что покидает свой пост в конце месяца. Девять лет он проработал в компании. Такой срок — целая вечность для Кремниевой долины.
Это не было каким-то взрывным скандалом. По крайней мере, не в полном смысле этого слова. Просто давняя мысль превратилась в действие. Он сказал сотрудникам, что об этом думал уже некоторое время, а не реагирует на конкретное событие. «Мир теперь знает секрет», — написал он, подразумевая, что больше не обязательно находиться внутри передовых лабораторий, чтобы бороться за безопасность ИИ. Это можно делать и извне.
«Мир теперь в курсе этого секрета», — написал он.
Он всё ещё верит в утопический план: мир, процветание, бесконечные возможности. Он продолжит за этим гнаться. Просто не внутри этих стен.
Кто займёт его место? В OpenAI пока не сообщали. Его роль находилась на тонкой грани между командами политики и безопасности, занимаясь анализом того, что идёт хорошо, а что может привести к катастрофическим последствиям при масштабировании ИИ. Он работал вместе с Крисом Леханом, руководителем глобальных отношений, продвигая государственные регуляции, которые бы соответствовали некоммерческой миссии компании — приносить пользу всему человечеству. Непростая задача, когда компания стала настоящим денежным монстром.
После взрывной популярности ChatGPT в 2022 году организационная структура OpenAI напоминала колоду карт, которую кто-то активно перетасовывал. Реорганизации, слияния, роспуски. В 2024 году Achiam возглавил «Команду миссионского выравнивания» (Mission Alignment Team) на короткий, но интенсивный период. Затем команда была распущена в феврале. Вместо этого ему дали новую должность: главный футурист. И вот он ушёл.
Компания пытается преодолеть разрыв между исследованиями и политикой, торопясь создать правила до того, как технологии опередят их всех. Боаз Барак, Ноам Шнейдер и другие активно включились в работу с политикой, стирая границы ещё больше. На сцену выходит Дин Балл, бывший советник Белого дома по вопросам ИИ. Он начинает работу на посту руководителя стратегических перспектив этой же недели. Его и Achiam’а на несколько дней объединит передача эстафеты под дождём.
Но давайте посмотрим на череду уходов. Это парад.
Achiam присоединился к списку лидеров безопасности, которые покинули корабль перед стартом IPO. Дэн Лейк? Он соосновал проект сверхвыравнивания (superalignment) и ушёл в Anthropic. Майлз Брандадж и Стивен Эдмс ушли вместе, чтобы создать некоммерческие организации, требующие более строгих стандартов безопасности. Андреа Валлоне последовал за Лейком.
Почему такой исход? Возможно, потому что остаться внутри становится всё труднее. Или, может быть, просто потому, что они не согласны с выбранной траекторией развития.
Achiam не был просто ястребом в вопросах безопасности — он был и противоречивой фигурой. Иногда он критиковал своё собственное сообщество. Он также славился своей прямотой.
Помните 2018 год? Илон Маск покинул OpenAI. Он произнёс прощальную речь о создании AGI в Tesla. Achiam прервал его, указав на риски безопасности в плане Маска. Маск назвал его «мудак».
Увидели концовку? Дарико Амодей и Дэвид Луан, ныне работающие в Anthropic и Amazon AGI, подарили Achiam за его храбрость золотую статую заднего конца осла. Никогда не переставай быть мудак.
Achiam сохранил её. Вероятно, повесил высоко.
Теперь он уходит в момент, когда OpenAI подаёт заявку на IPO конфиденциально, сразу после аналогичного шага Anthropic. Игра изменилась. Игроки устали.
И что будет, когда последние стражи выйдут за дверь?
