O burro das saídas de segurança da IA

Joshua Achiam se foi.

Ele é o chefe futurista da OpenAI, um título que parece um pouco vago até você perceber que ele era o cara encarregado de evitar que a empresa perdesse sua alma. Ele notificou seus colegas na terça-feira que deixará o cargo no final do mês. Nove anos ele ficou. Isso é uma vida inteira no Vale do Silício.

Não foi um escândalo explosivo. Na verdade. Apenas um pensamento antigo se tornando uma ação. Ele disse à equipe que era algo em que vinha pensando há algum tempo, não uma reação a um evento específico. O mundo agora conhece o segredo, disse ele, dando a entender que não é mais necessário estar dentro de um laboratório de fronteira para lutar por segurança. Você pode fazer isso de fora.

“O mundo sabe o segredo”, escreveu ele.

Ele ainda acredita na utopia: paz, prosperidade, possibilidades infinitas. Ele vai continuar perseguindo isso. Só que não dentro dessas paredes específicas.

Quem ocupa o lugar? OpenAI não disse. Sua função estava no fio da navalha entre as equipes de política e segurança, estudando o que dá certo e o que dá catastroficamente errado à medida que a IA se expande. Ele trabalhou com Chris Lehane, chefe de assuntos globais, pressionando por regulamentações governamentais que realmente se alinhassem com a missão sem fins lucrativos de beneficiar toda a humanidade. Isso é difícil de vender quando a empresa se tornou um monstro que imprime dinheiro.

Desde que o ChatGPT explodiu em 2022, o organograma parecia um baralho de cartas embaralhado. Reorganizado, fundido, dissolvido. Em 2024, Achiam liderou a “Equipe de Alinhamento Missionário” por um período breve e intenso. Então foi dissolvido em fevereiro. Em vez disso, ele recebeu um novo título: Chefe Futurista. Agora ele se foi.

A empresa está a tentar colmatar a lacuna entre a investigação e a política, lutando para criar regras antes que a tecnologia as ultrapasse. Boaz Barak, Noam e outros aprofundaram-se no trabalho político, confundindo ainda mais os limites. Entra Dean Ball, ex-conselheiro de IA da Casa Branca. Ele começa esta semana como chefe de futuros estratégicos. Ele e Achiam se sobreporão brevemente, uma passagem de bastão na chuva.

Mas olhe a trilha de saídas. É um desfile.

Achiam se junta à lista de líderes de segurança que fogem do navio antes do sinal do IPO. Jan Leike? Ele co-liderou o superalinhamento e foi para a Antrópica. Miles Brundage e Steven Adams saíram juntos para construir organizações sem fins lucrativos que exigiam padrões mais rígidos. Andrea Vallone seguiu Leike.

Por que o êxodo? Talvez porque ficar dentro de casa esteja cada vez mais difícil. Ou talvez eles apenas discordem da trajetória.

Achiam não era apenas um falcão da segurança; ele era polêmico. Ele criticava sua própria comunidade ocasionalmente. Ele também era famoso por ser ousado.

Lembra de 2018? Elon Musk deixou a OpenAI. Ele fez um discurso de despedida sobre a construção da AGI na Tesla. Aquiam o interrompeu. Mencionou os riscos de segurança do plano de Musk. Musk o chamou de “idiota”.

Você percebeu o final? Dario Amodei e David Luan – agora na Anthropic e Amazon AGI – deram a Achiam um presente por sua bravura. Uma estátua dourada da traseira de um burro. Nunca deixe de ser um idiota.

Aquiam guardou-o. Provavelmente montou alto.

Agora ele está saindo como OpenAI arquiva confidencialmente para um IPO, logo após a Anthropic fazer o mesmo. O jogo mudou. Os jogadores estão cansados.

E o que acontece quando os últimos guardiões saem pela porta?

попередня статтяComo as pessoas quebram na aposentadoria: alerta de um consultor financeiro