Jozue Achiam odszedł.
Pełnił funkcję głównego futurysty w OpenAI – tytuł ten brzmi nieco niejasno, dopóki nie zdamy sobie sprawy, że to właśnie on musiał zapobiec utracie duszy firmy. We wtorek powiadomił kolegów, że z końcem miesiąca odejdzie ze stanowiska. Pracował w firmie dziewięć lat. Taki okres to dla Doliny Krzemowej wieczność.
To nie był jakiś wybuchowy skandal. Przynajmniej nie w pełnym tego słowa znaczeniu. Tylko stara myśl zamieniona w działanie. Powiedział pracownikom, że myślał o tym od jakiegoś czasu i nie reagował na żadne konkretne wydarzenie. „Świat zna teraz tajemnicę” – napisał, dając do zrozumienia, że nie trzeba już przebywać w najnowocześniejszych laboratoriach, aby walczyć o bezpieczeństwo sztucznej inteligencji. Można to zrobić także od zewnątrz.
„Świat jest teraz świadomy tej tajemnicy” – napisał.
Nadal wierzy w utopijny plan: pokój, dobrobyt, nieskończone możliwości. Będzie go nadal gonił. Tylko nie w tych ścianach.
Kto zajmie jego miejsce? OpenAI nie zostało jeszcze zgłoszone. Jego rola wykraczała poza cienką granicę między zespołami ds. polityki i bezpieczeństwa, analizując, co idzie dobrze, a co może być katastrofalne w miarę skalowania sztucznej inteligencji. Współpracował z Chrisem Lehane, dyrektorem ds. globalnych, nad promowaniem przepisów rządowych, które byłyby zgodne z misją firmy non-profit polegającą na przynoszeniu korzyści całej ludzkości. Nie jest to łatwe zadanie, gdy firma stała się prawdziwym potworem pieniędzy.
Po gwałtownej popularności ChatGPT w 2022 r. struktura organizacyjna OpenAI przypominała talię kart, którą ktoś aktywnie tasował. Reorganizacje, fuzje, rozwiązania. W 2024 r. Achiam stał na czele Zespołu ds. dostosowania misji przez krótki, ale intensywny okres. Następnie w lutym zespół został rozwiązany. Zamiast tego otrzymał nowe stanowisko: głównego futurysty. I tak odszedł.
Firma stara się wypełnić lukę między badaniami a polityką, śpiesząc się z tworzeniem zasad, zanim technologia pokona je wszystkie. Boaz Barak, Noam Schneider i inni aktywnie włączyli się w współpracę z polityką, jeszcze bardziej zacierając granice. Na scenę wchodzi Dean Ball, były doradca Białego Domu ds. sztucznej inteligencji. W tym tygodniu rozpoczyna pracę na stanowisku szefa ds. perspektyw strategicznych. On i Achiam zjednoczą się na kilka dni, przekazując pałeczkę w deszczu.
Ale spójrzmy na ciąg odejścia. To jest parada.
Achiam dołącza do listy liderów bezpieczeństwa, którzy odskoczyli przed wejściem na giełdę. Jezioro Dana? Był współzałożycielem projektu superalignment i trafił do Anthropic. Miles Brundage i Stephen Edmes odeszli razem, aby założyć organizacje non-profit wymagające bardziej rygorystycznych standardów bezpieczeństwa. Andrea Vallone podążyła za Lake’em.
Dlaczego taki wynik? Być może dlatego, że coraz trudniej jest pozostać w środku. A może po prostu dlatego, że nie zgadzają się z obraną trajektorią rozwoju.
Achiam był nie tylko jastrzębiem bezpieczeństwa – był także postacią kontrowersyjną. Czasami krytykował własną społeczność. Słynął także ze swojej bezpośredniości.
Pamiętacie rok 2018? Elon Musk opuścił OpenAI. Wygłosił pożegnalne przemówienie na temat powstania AGI w Tesli. Achiam przerwał, wskazując na zagrożenia bezpieczeństwa w planie Muska. Musk nazwał go „dupkiem”.
Widziałeś zakończenie? Darico Amodei i David Luan, obecnie z Anthropic i Amazon AGI, w uznaniu jego odwagi, podarowali Achiamowi złoty posąg przedstawiający zad osła. Nigdy nie przestawaj być dupkiem.
Achiam go uratował. Pewnie powiesił go wysoko.
Teraz odchodzi, ponieważ OpenAI prywatnie składa wniosek o pierwszą ofertę publiczną, po podobnym posunięciu Anthropic. Gra się zmieniła. Gracze są zmęczeni.
A co się stanie, gdy ostatni strażnicy wyjdą za drzwi?
