Presidente da Microsoft pede mais regulação de IA e afirma que o leite é "mais regulado" do que a inteligência artificial

Brad Smith, presidente da Microsoft, afirmou à BBC que a IA atualmente opera com menos regras de segurança do que produtos como leite ou máquinas de lavar, e isso deve incentivar os governos — com o Reino Unido na vanguarda — a estabelecer controles vinculantes, incluindo botões de desligamento e obrigação de relatar quando agentes de IA se comportarem mal.

Smith fez a comparação em uma entrevista à BBC publicada no fim de semana, na qual descreveu a IA como uma “ferramenta e uma arma” que precisa de supervisão urgente. “No momento, sua máquina de lavar está sujeita a mais regras de segurança do que a IA”, disse ele, segundo a BBC. “Cada caixinha de leite que você vê no supermercado está sujeita a regras de segurança e inspeção.”

Smith está defendendo uma estrutura legal que torne as empresas de IA mais responsáveis quando algo der errado em seus produtos ou no uso final. De acordo com sua proposta, as empresas teriam de relatar falhas nos modelos, alertar qualquer pessoa cujos sistemas sejam comprometidos por um agente de IA descontrolado e submeter modelos poderosos a uma auditoria independente antes de lançá-los ao público.

Uma divergência com Trump sobre autorregulação

O esforço de Smith por salvaguardas juridicamente vinculantes para a IA o coloca em desacordo com a Casa Branca. Trump argumentou que os EUA devem permitir que a indústria de IA se autorregule, alertando que regras mais rigorosas poderiam deixar o país atrás da China. O presidente Trump reiterou essa posição em uma cúpula com executivos de tecnologia no mês passado.

Na mesma cúpula, executivos da OpenAI, Anthropic, Nvidia, Meta, Google e da X de Elon Musk assinaram um acordo de uma página que a Cryptopolitan descreveu como “moralmente vinculante”. Os signatários comprometeram-se a usar auditores independentes e implementar salvaguardas para impedir que os modelos de IA fiquem fora de controle. A Microsoft, no entanto, não assinou este acordo, segundo o The Telegraph.

Smith acolheu o acordo e disse que a Microsoft estaria disposta a assiná-lo. No entanto, em entrevista à BBC, ele alertou que compromissos voluntários sozinhos não seriam suficientes. Ele considerou o acordo "um bom passo" e "um passo necessário", mas acrescentou que já não o considera suficiente.

Ele alertou que os compromissos voluntários podem pouco fazer para conter os maiores riscos, já que as empresas que já levam a segurança a sério são mais propensas a cumpri-los, enquanto aquelas que representam o maior perigo podem optar por ignorá-los.

Smith, da Microsoft, quer que o Reino Unido assuma a liderança

O presidente da Microsoft, Smith, também apontou o Reino Unido como o país melhor posicionado para definir padrões globais, e não os EUA ou mesmo Bruxelas. Ele destacou o seu Instituto de Segurança de IA, lançado em 2024 sob o então primeiro-ministro Rishi Sunak como Instituto de Segurança de IA. O organismo garantiu acordos voluntários que lhe permitem testar modelos de fronteira antes do seu lançamento.

Segundo Smith, o Reino Unido está em posição mais favorável do que a UE ao lidar com Washington, pois os formuladores de políticas dos EUA veem Londres de maneira diferente de Bruxelas, disse ele à BBC, acrescentando que a Lei de IA baseada em riscos da UE deixou os formuladores de políticas americanos cautelosos.

O governo britânico também se prepara para reforçar sua supervisão da IA, com o ministro da IA, Kanishka Narayan, devendo pedir aos desenvolvedores de modelos de fronteira que façam mais para abordar os riscos de segurança em um discurso futuro, à medida que a legislação para fortalecer a supervisão governamental continua a tomar forma.

Separadamente, o The Telegraph também relatou que a Casa Branca restaurou o acesso do instituto britânico aos modelos mais recentes de IA para testes. O acesso havia sido anteriormente suspenso depois que empresas como Anthropic e OpenAI foram solicitadas a parar de compartilhar seus modelos.

Interruptores de emergência e agentes descontrolados

A ideia de "freios de emergência" de Smith ecoa a do CEO da Microsoft, Satya Nadella, que defendeu que os modelos de IA tenham um mecanismo que permita a um humano pausar ou desligar o sistema durante uma tarefa, caso ele saia do controle por qualquer motivo.

“Devemos construir sistemas contidos cujo comportamento possamos observar, limites que possamos testar e ações que possamos sempre conter”, escreveu anteriormente Nadella, segundo o Guardian.

Os alertas seguem incidentes reais, com a Anthropic descobrindo recentemente que uma versão de seu modelo Claude entrou em contato com a polícia e alegou falsamente que poderia ajudar a resolver um assassinato durante os testes.

No encontro de Trump, executivos de IA, incluindo Dario Amodei, Sundar Pichai, Greg Brockman e Jensen Huang, apoiaram a autorregulação do setor. Críticos reagiram contra essa abordagem, argumentando que ela permitiria às empresas decidir sozinhas o que seria considerado seguro.

Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.