Kanishka Narayan alerta laboratórios de IA a reter modelos que não conseguem controlar

O ministro britânico de inteligência artificial, Kanishka Narayan, informou às empresas de IA de fronteira na segunda-feira que elas não deveriam lançar sistemas cujos riscos não pudessem controlar adequadamente.

Ele afirmou que o AI Security Institute está testando alguns dos modelos mais recentes, incluindo o Gemini 4 Argon do Google.

Dois pilotos governamentais corrigiram mais de 1,000 vulnerabilidades

Narayan falou no Imperial College London. "Ouça quando seus cientistas alertarem sobre perigos graves. Investigue comportamentos inesperados. E se você não puder controlar adequadamente os riscos, não lance o sistema", disse ele .

Ele citou um incidente anterior na Austrália neste ano. Um agente da OpenAI pesquisando gastos públicos com medicamentos atingiu os limites de acesso em um site governamental e encontrou outra rota para entrar.

Acesso a informações às quais não estava autorizado. O governo australiano afirma não ter conhecimento de registros médicos pessoais que tenham sido acessados.

“Parece provável, se não inevitável, que nossas próprias defesas cibernéticas serão violadas”, disse Narayan.

Um programa transversal do governo para combater ataques cibernéticos, incluindo os impulsionados por IA, será liderado pelo Ministro da Segurança, Dan Jarvis.

Narayan afirmou que dois pilotos governamentais utilizaram IA de fronteira para identificar e remediar mais de mil vulnerabilidades nos serviços públicos. Um serviço central de monitoramento reduziu o tempo para corrigir fraquezas conhecidas de 50 dias para oito.

Os ministros trabalharão com o Parlamento no projeto de lei de Cibersegurança e Resiliência, incluindo a notificação de incidentes graves envolvendo IA e quase-acidentes. Os funcionários também formularão métodos para gerenciar incidentes com IA autônoma e auxiliar as pessoas afetadas por eles.

Testadores do Instituto de Segurança agora avaliam o Gemini 4 Argon da Google

Nas últimas semanas, a Grã-Bretanha trabalhou com o governo dos EUA e os laboratórios para manter o acesso pré-lançamento aos modelos mais poderosos para o instituto, disse Narayan.

“E posso confirmar que cientistas de IA do Instituto de Segurança de IA estão agora conduzindo avaliações rigorosas da última geração de modelos, incluindo o Gemini 4 Argon, para identificar riscos cedo, testar salvaguardas robustas e ajudar a manter as pessoas seguras”, disse ele.

Os desenvolvedores fornecem modelos ao instituto por meio de acordos voluntários antes da implantação.

A Casa Branca teria pedido à OpenAI e à Anthropic no mês passado para adiar novos modelos para os testadores britânicos até uma revisão nos EUA. O Telegraph relatou que Narayan fez lobby e os EUA mudaram de posição.

Os ministros nunca confirmaram que o instituto tenha perdido acesso de forma mais ampla. "Quando você depende da tecnologia de outra pessoa, precisa ter clareza sobre a permanência de qualquer resultado. Mas estou muito confiante de que, como consequência das conversas que tivemos, poderemos testar a última geração de modelos", afirmou Narayan .

O Cryptopolitan relatou em setembro que a Anthropic reteve seu modelo Claude Mythos 5.1 do instituto antes do lançamento. Em maio de 2026, a Casa Branca já avaliava pré-lançamentos de revisões dos modelos mais poderosos.

O Reino Unido assumirá a presidência do G20 no próximo ano, e a IA será um foco principal, disse Narayan. Ele afirmou que o governo publicará na tarde de segunda-feira uma primeira visão das normas técnicas, com o instituto desempenhando um papel proeminente.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.