Zuckerberg aponta o maior risco da IA ​​enquanto a Meta lança o modelo de peso aberto Glimmer

A Meta (NASDAQ: META) lançou um modelo de IA de código aberto chamado Muse Glimmer, juntamente com um manifesto do CEO Mark Zuckerberg, que afirmou que o verdadeiro perigo da IA avançada reside no controle da tecnologia por um único governo ou empresa, e não em máquinas desonestas.

Muse Glimmer é um modelo denso com 30 bilhões de parâmetros que cabe em um laptop ou em uma única GPU de consumo, e a Meta o está anunciando como "um dos modelos de maior desempenho em seu tamanho"

Qualquer pessoa pode baixar o modelo, personalizá-lo e executá-lo em seu próprio hardware, pois os pesos são abertos.

Segundo informações, a Meta construiu o Muse Glimmer por meio de destilação, treinando o modelo menor com base nas saídas de seu sistema Muse Spark maior, de modo que a versão compacta herde a capacidade do "professor" maior.

Segundo a Meta, os pesos para uma versão do Muse Spark 1.2 serão divulgados nas próximas semanas. Ambos os modelos são considerados os maiores modelos americanos de código aberto até o momento.

Inicialmente, a Meta havia pausado o lançamento de seus modelos de peso aberto, o que Zuckerberg atribuiu a uma revisão estratégica. Agora, eles retomaram as atividades, com a volta dos laboratórios Meta Superintelligence em funcionamento.

O que Zuckerberg disse sobre a centralização da IA em seu ensaio?

Zuckerberg, em um ensaio de 6.500 palavras intitulado "O futuro é para todos: o caminho para um futuro positivo da IA", contestou o tom pessimista de grande parte do discurso sobre IA.

Em uma entrevista, ele afirmou: "Pessoalmente, estou mais preocupado com a centralização do que com quaisquer riscos específicos que outros estejam mencionando."

Segundo Zuckerberg, concentrar a superinteligência em poucas mãos "naturalmente levará a resultados menos favoráveis para todos os outros"

Ele acrescentou que "não existe uma superinteligência benevolente singular"

Zuckerberg também propôs uma alternativa que se baseia em três ideias: o empoderamento individual como fonte de prosperidade, a invenção em vez da automação como principal objetivo da IA e o equilíbrio de poder como base para a segurança.

Em relação à geopolítica, Zuckerberg escreveu que as regras americanas que atrasam o lançamento de modelos dos EUA em apenas um mês podem custar ao país sua liderança, enquanto os modelos estrangeiros avançam.

Um conselhodent e um fundo comunitário de 1 bilhão de dólares

Para conciliar as versões abertas com as preocupações de segurança, a Meta está adicionando governança. Zuckerberg afirmou que um conselho independentedent a autoridade para aprovar os critérios de segurança que regem as versões de modelos e para revisar se uma determinada versão os atende. Ele disse que o conselho ajudará a garantir que as versões abertas "atendam a padrões de segurança rigorosos".

Zuckerberg também anunciou um fundo de US$ 1 bilhão, o “Futuro é para Todos”, destinado a comunidades americanas que abrigam centros de dados de metadados. A verba será direcionada para professores, equipes de primeiros socorros e infraestrutura local de energia e água.

O fundo está sendo visto como um esforço para atenuar a crescente reação negativa local contra a construção de centros de dados nos EUA.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.