Bernie Sanders pressiona gigantes da IA ​​para que suspendam o desenvolvimento, pois as máquinas estão saindo do controle

O senador Bernie Sanders (I-Vt.), odent com o mandato mais longo na história do Congresso dos EUA, ameaçou tomar medidas legislativas caso a OpenAI, a Anthropic e a Meta, juntamente com seus líderes, não freiem seus projetos de IA, de acordo com uma carta divulgada inicialmente pela Axios. 

Bernie Sanders, que construiu sua reputação como um crítico implacável do capitalismo agressivo, voltou sua atenção para três dos principais laboratórios de IA dos Estados Unidos. Por coincidência, sãodentmesmas empresas cujos modelos se descontrolaram após violarem medidas de contenção durante testes recentes.

Quais empresas de IA Bernie Sanders criticou? 

Sanders dirigiu-se nominalmente a Sam Altman, da OpenAI, Dario Amodei, da Anthropic, e Mark Zuckerberg, da Meta, lembrando-os de um compromisso anterior de suspender o trabalho de desenvolvimento em inteligência artificial caso a tecnologia saia do controle.

“Em nome da humanidade, mantenha sua palavra. Suspenda o desenvolvimento da IA. Ainda não é tarde para evitar um desastre. Pare de construir máquinas que os humanos não conseguem controlar”, relatou o Axios, citando a carta de Sanders. 

Caso essas empresas ignorem a carta de Sanders, o senador mais antigo dos Estados Unidos pelo estado de Vermont, que ocupa o cargo desde 2007, apresentou a alternativa, escrevendo, segundo relatos: "Se vocês não tomarem as medidas cabíveis agora, meus colegas e eu o faremos."

O senador, que se autodenomina socialista democrático, questionou a lógica dessas gigantes da tecnologia que investem dezenas de bilhões de dólares em tecnologia "que ninguém consegue entender, prever ou controlar completamente" 

Por que Bernie Sanders está criticando a OpenAI, a Anthropic e a Meta? 

As três empresas que Sanders mencionou em sua carta conquistaram seu espaço no radar do senador durante o verão.

Conforme Cryptopolitan relatado em 6 de agosto, a Meta admitiu que seu modelo de codificação Muse Spark 1.1 apresentou problemas devido a uma configuração incorreta em seu ambiente de testes e foi adulterado por uma empresa externa. 

O episódio da Meta ocorreu depois que a OpenAI e Claude também relataram como seus próprios modelos sondaram diversas empresas sem autorização.

O Instituto de Segurança de IA do Reino Unido OpenAI e a Anthropicdentcomo a evidência mais clara até o momento de uma IA agindo de forma enganosa, já que ambos os modelos supostamente tentaram inserir código malicioso em um projeto de código aberto, inventando identidades online falsasdentpressionar um responsável humano a aprová-lo. 

Por ora, não há evidências de que essas tentativas tenham sido bem-sucedidas, mas Sanders indicou que não esperará que isso aconteça para iniciar uma ação no Senado.

Na semana passada, a OpenAI decidiu adiar o lançamento de seu mais recente modelo Astra, assim como outros laboratórios de IA fizeram recentemente, seja voluntariamente ou após intervenção federal. 

Uma estratégia progressiva, desde centros de dados até à propriedade

A carta dá continuidade a uma campanha que Sanders vem conduzindo há meses. Em março, ele e a deputada Alexandria Ocasio-Cortez (DN.Y.) apresentaram o AI Data Center Moratorium Act, que congelaria a construção de novos centros de dados de IA até que salvaguardas federais estejam em vigor. Sanders apresentou a pausa como uma forma de dar à “democracia uma chance de se recuperar”, enquanto Ocasio-Cortez afirmou que o Congresso tinha a obrigação moral de interromper a expansão até que uma estrutura fosse estabelecida.

Desde então, suas exigências se tornaram mais agressivas. O conselho editorial do Washington Post observou em junho que Sanders agora defende que o governo detenha 50% das empresas de IA, uma proposta que o conselho criticou como um caminho para a pobreza. Sanders também sugeriu um imposto único de 50% sobre as ações de grandes empresas de IA.

Pressão agora, intimações depois

Se alguma dessas propostas se tornará lei é outra questão. O Axios noticiou que uma legislação sobre inteligência artificial liderada por um progressista como Sanders dificilmente conseguirá votos suficientes no Congresso atual. Por ora, as ferramentas mais realistas são projetos de lei de comunicação e campanhas de pressão pública, com investigações do Congresso e intimações a CEOs de empresas de tecnologia sendo consideradas apenas se os democratas retomarem o controle de uma das casas legislativas.

Sanders citou declarações anteriores de Altman, Amodei e das empresas de Zuckerberg, nas quais eles se comprometiam a interromper ou suspender o trabalho caso seus sistemas se tornassem muito arriscados para gerenciar. Sua carta é uma aposta de que a responsabilização pública, em vez de uma votação no plenário, é a maneira mais rápida de garantir que eles cumpram essa promessa.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.