Sam Altman apoia controle do ritmo de desenvolvimento de IA de ponta, e OpenAI introduzirá avaliações de segurança independentes

Altman declarou que dosar o ritmo do desenvolvimento não significa interromper a pesquisa e o desenvolvimento. Embora argumentos de segurança e o monitoramento contínuo aumentem os custos e possam desacelerar parte do progresso do treinamento, o desenvolvimento de modelos e o avanço tecnológico continuarão.

Anteriormente, as políticas de dimensionamento responsável adotadas por algumas empresas de IA de fronteira e a estrutura de preparação estabelecida pela OpenAI focavam principalmente em modelos totalmente treinados e em seus riscos de implantação. Altman acredita que a gestão de segurança também deve abranger o processo de desenvolvimento e avaliação dos modelos.

Para o treinamento de aprendizado por reforço de fronteira que deve aprimorar significativamente as capacidades dos modelos, a OpenAI começou a estabelecer argumentos claros de segurança antes do treinamento, mantendo as avaliações de segurança antes do lançamento do modelo. A empresa espera que outras empresas de IA de fronteira se baseiem em sua abordagem e proponham suas próprias soluções, impulsionando a formação de padrões compartilhados para desalinhamento de modelos, monitoramento e segurança.

Altman declarou que dosar o ritmo do desenvolvimento não equivale a interromper a pesquisa e o desenvolvimento. Argumentos de segurança e monitoramento contínuo exigem mais recursos e farão com que a taxa de melhoria das capacidades da IA de fronteira seja menor do que seria sem tais medidas, mas as pesquisas e desenvolvimentos relacionados continuarão a avançar.

Os comentários de Altman foram feitos em resposta às recomendações propostas em 12 de setembro pelo CEO da Anthropic, Dario Amodei. Amodei observou que, à medida que a IA se envolve cada vez mais no desenvolvimento de modelos de próxima geração, as capacidades dos modelos podem avançar mais rápido do que a indústria consegue compreender e controlar os riscos associados.

Amodei propôs três medidas: que empresas de IA de ponta forneçam a equipes de avaliação terceirizadas acesso contínuo e próximo ao nível dos funcionários; a promoção do estabelecimento de padrões de segurança compartilhados entre empresas relevantes de nações democráticas; e a busca por uma coordenação internacional envolvendo países como os EUA e a China.

A Anthropic comprometeu-se a incluir equipes de avaliação externas. Altman também afirmou que a OpenAI adotará acordos semelhantes de avaliação independente, embora a empresa ainda não tenha divulgado os privilégios específicos de acesso dos avaliadores nem o cronograma de implementação.

Sobre a velocidade de desenvolvimento, as prioridades de Trump diferem das de alguns líderes de empresas de IA de ponta. Trump acredita que os EUA não precisam desacelerar o desenvolvimento da IA para evitar corroer sua liderança em relação à China. Altman, por sua vez, defende a continuidade da P&D, garantindo que as medidas de alinhamento, segurança e monitoramento não fiquem atrás dos avanços nas capacidades dos modelos.

Este conteúdo foi traduzido por IA e revisado por humanos. Ele é fornecido apenas para fins informativos e de referência, não constituindo aconselhamento financeiro ou recomendação de investimento.