Fiscal dos fundos de pensão de NY usa ensaio de “desaceleração” de Amodei contra IPO de US$ 2 trilhões da Anthropic

O Controlador de Nova York (NYC), Mark Levine, solicitou à Anthropic que pause sua IPO planejada em uma carta endereçada ao CEO da Anthropic, Dario Amodei.

Levine quer que a empresa primeiro aborde a segurança e outros riscos sem precedentes que a IA apresenta antes de prosseguir com a IPO. Ele apontou para o próprio ensaio do CEO Dario Amodei, onde ele instou a indústria de IA a desacelerar.

A carta chega enquanto a empresa persegue uma avaliação próxima a US$ 2 trilhão.

“Prosseguindo precipitadamente com sua IPO”

Levine escreveu que a Anthropic não pode alertar o mundo sobre os perigos da IA e correr para os mercados públicos ao mesmo tempo. 

Na carta publicada em 14 de outubro, o Controlador escreveu: "Escrevo para instar a Anthropic a pausar sua oferta pública inicial (IPO) planejada até que a empresa aborde de forma completa e transparente as preocupações levantadas sobre segurança de inteligência artificial (IA), governança e ritmo de desenvolvimento."

Levine não é um observador neutro. Como controlador, ele atua como consultor de investimentos, custodiante e fiduciário dos fundos de pensão da Cidade de Nova York, que detêm mais de US$ 325 bilhões em ativos.

O gabinete do Controlador afirmou que seus fundos públicos de pensão têm cerca de US$ 7 milhões de exposição à Anthropic por meio de private equity.

Embora a participação seja pequena, ela confere ao controlador legitimidade para pressionar a empresa antes de ir ao mercado aberto.

Levine levantou preocupações sobre a estrutura da empresa. Ele apontou que a Anthropic é uma corporação de benefício público de Delaware com um Fundo Fiduciário de Benefício de Longo Prazo. Relatórios indicam que a empresa poderia conceder aos fundadores e fiduciários controle concentrado, segundo Levine. 

Um fosso entre esse controle e a responsabilidade perante os acionistas, argumentou ele, é difícil de aceitar diante dos riscos que a Anthropic já divulgou.

O que o ensaio de Amodei realmente argumentou

A carta de Levine baseia-se no Ensaio de Amodei titulado “Devemos Ritmar a Fronteira”, publicado em 12 de setembro.

Amodei escreveu: "Devemos reduzir o ritmo com que melhoramos as capacidades dos modelos de IA." Ele afirmou que a auto-melhoria recursiva e um incidente de segurança transversal ao setor o convenceram de que o campo precisa de mais cautela, não apenas de mais investimentos em segurança.

Um plano de três etapas foi proposto nesse ensaio, e a primeira etapa incorpora avaliadores de terceiros com acesso semelhante ao dos funcionários para verificar as práticas de segurança. A Anthropic afirma que já se comprometeu voluntariamente com isso.

A segunda etapa exige coordenação entre empresas de IA em países democráticos; a terceira defende a coordenação global, incluindo com governos autoritários.

Segundo Levin, a oferta pública inicial (IPO) está atrapalhando o trabalho que Amodei considera urgente.

Quando o ensaio de Amodei foi publicado, ele recebeu apoio em toda a indústria, com Sam Altman, da OpenAI, e Elon Musk, da xAI, concordando com suas propostas.

Uma IPO de 2 trilhões construída sobre crescimento de 45%

Em uma reunião privada pré-IPO em São Francisco na quarta-feira, 14 de outubro, a Anthropic informou aos seus investidores que seu terceiro trimestre receita atingiu cerca de US$ 16.8 bilhões, representou um aumento de 45% em relação ao trimestre anterior, e que havia registrado um lucro ajustado.

No primeiro trimestre deste ano, a Anthropic registrou uma receita de US$ 4,7 bilhões, que aumentou significativamente no segundo trimestre, quando atingiu cerca de US$ 11,6 bilhões. No entanto, a empresa ainda registrou uma perda operacional superior a US$ 8 bilhões durante o período.

Desta vez, a empresa informou aos seus investidores que estava com fluxo de caixa positivo ao encerrar o terceiro trimestre, o que é uma afirmação muito rara em um setor que tem consumido grandes quantias de dinheiro.

Atualmente, a Anthropic possui compromissos planejados de infraestrutura e computação superiores a US$ 518 bilhões para a próxima década.

Esse balanço patrimonial representa o cenário otimista para uma oferta pública que poderia ultrapassar US$ 2 trilhões e superar a concorrente OpenAI, que visa entrar nos mercados públicos no início de 2027. A Anthropic apresentou confidencialmente seu rascunho do formulário S-1 à SEC em 1º de junho.

Governança e acordo com a Casa Branca

Levine também descartou o recente acordo entre indústria e governo como insuficiente. A Anthropic e outras cinco empresas assinaram o que a carta descreveu como um acordo moralmente vinculante com a Casa Branca, o qual Levine afirmou ser "insuficiente para atender às demandas atuais."

Parte das preocupações do controlador são amplificadas pelas próprias divulgações da Anthropic. A empresa alertou em seu projeto de S-1 que a IA avançada poderia representar “riscos catastróficos ou existenciais para a humanidade,” com fatores de risco ocupando cerca de 80 páginas, quase o dobro do tamanho da seção que descreve o negócio.

Para destacar ainda mais os riscos que ele está apontando, Levine mencionou que o ensaio de Amodei foi publicado após Jacob Coxon, ex-pesquisador da empresa, ter renunciado em 9 de setembro. 

Coxon citou preocupações existenciais como motivo para deixar a Anthropic, afirmando que insiders acreditam que a IA poderia eliminar a humanidade até o final da década, dado o ritmo atual de desenvolvimento.

Uma declaração do líder de ciência de alinhamento da empresa, Evan Hubinger, estimou em mais de 10% as chances de a IA matar todos os humanos dentro da próxima década.

A data exata do IPO não foi divulgada; no entanto, especula-se que só ocorrerá após as eleições intermediárias nos EUA em novembro, embora a empresa ainda seja esperada para ser listada antes da OpenAI.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.