Joshua Achiam est parti.
Il est le futuriste en chef d’OpenAI, un titre qui semble un peu aérien jusqu’à ce que vous réalisiez qu’il était chargé d’empêcher l’entreprise de perdre son âme. Il a informé mardi ses collègues de sa démission à la fin du mois. Il est resté neuf ans. C’est toute une vie dans la Silicon Valley.
Ce n’était pas un scandale explosif. Pas vraiment. Juste une pensée de longue date qui devient une action. Il a dit au personnel que c’était une chose à laquelle il pensait depuis un moment, et non une réaction à un événement spécifique. Le monde connaît désormais le secret, a-t-il déclaré, ce qui implique qu’il n’est plus nécessaire d’être à l’intérieur d’un laboratoire frontalier pour lutter pour la sécurité. Vous pouvez le faire de l’extérieur.
« Le monde connaît le secret », a-t-il écrit.
Il croit toujours au discours utopique : paix, prospérité, possibilités infinies. Il va continuer à le poursuivre. Mais pas à l’intérieur de ces murs spécifiques.
Qui occupe le siège ? OpenAI ne l’a pas dit. Son rôle se situait sur le fil du rasoir, entre les équipes chargées de la politique et de la sécurité, étudiant ce qui se passe bien et ce qui ne va pas de manière catastrophique à mesure que l’IA se développe. Il a travaillé avec Chris Lehane, responsable des affaires mondiales, pour faire pression en faveur de réglementations gouvernementales réellement alignées sur la mission à but non lucratif de bénéficier à toute l’humanité. C’est difficile à vendre alors que l’entreprise est devenue un monstre d’impression de liquidités.
Depuis l’explosion de ChatGPT en 2022, l’organigramme ressemble à un jeu de cartes mélangé. Réorganisé, fusionné, dissous. En 2024, Achiam a dirigé la « Mission Alignment Team » pendant une fenêtre brève et intense. Puis elle a été dissoute en février. À la place, il reçut un nouveau titre : Chef futuriste. Maintenant, il est parti.
L’entreprise tente de combler le fossé entre la recherche et la politique, en s’efforçant d’élaborer des règles avant que la technologie ne les dépasse. Boaz Barak, Noam et d’autres se sont penchés sur le travail politique, brouillant encore davantage les frontières. Entrez Dean Ball, ancien conseiller en IA de la Maison Blanche. Il débute cette semaine en tant que responsable des futurs stratégiques. Lui et Achiam se chevaucheront brièvement, un passage de relais sous la pluie.
Mais regardez la piste des sorties. C’est un défilé.
Achiam rejoint la liste des leaders en matière de sécurité qui ont fui le navire avant la cloche de l’introduction en bourse. Jan Leike? Il a codirigé le superalignement et est allé chez Anthropic. Miles Brundage et Steven Adams sont partis ensemble pour créer des organisations à but non lucratif exigeant des normes plus strictes. Andrea Vallone a suivi Leike.
Pourquoi cet exode ? Peut-être parce que rester à l’intérieur devient de plus en plus difficile. Ou peut-être qu’ils ne sont tout simplement pas d’accord avec la trajectoire.
Achiam n’était pas seulement un faucon de la sécurité ; il était controversé. Il critiquait occasionnellement sa propre communauté. Il était également notoirement impétueux.
Vous vous souvenez de 2018 ? Elon Musk a quitté OpenAI. Il a prononcé un discours d’adieu sur la construction d’AGI chez Tesla. Achiam l’interrompit. Il a souligné les risques pour la sécurité du plan de Musk. Musk l’a traité d’« crétin ».
Avez-vous capté la fin ? Dario Amodei et David Luan, maintenant chez Anthropic et Amazon AGI, ont offert à Achiam un cadeau pour son courage. Une statue dorée représentant la croupe d’un âne. N’arrêtez jamais d’être un crétin.
Achiam l’a gardé. Il l’a probablement monté en hauteur.
Maintenant, il part sous forme de fichiers OpenAI confidentiels pour une introduction en bourse, juste après qu’Anthropic ait fait de même. Le jeu a changé. Les joueurs sont fatigués.
Et que se passe-t-il lorsque les derniers gardiens franchissent la porte ?
