Presidente do Google Deepmind pede segurança mais forte e afirma que recentes invasões são "tiros de aviso"

O presidente do Google DeepMind, Demis Hassabis, emitiu um alerta durante uma cimeira de IA em Dublin, afirmando que os recentes ataques envolvendo agentes de IA autónomos podem ser sinais precoces de ameaças de segurança mais graves. Ele instou empresas e governos a reforçar as suas defesas antes que a tecnologia de IA se torne mais capaz.

Co-fundador da DeepMind e cientista-chefe da Alphabet, Hassabis manteve um equilíbrio entre o otimismo quanto ao potencial científico da IA e os avisos sobre os seus riscos de segurança na Cimeira Internacional de IA.

Ele citou ataques realizados por agentes de IA autônomos que não causaram danos graves, mas expuseram riscos de segurança subjacentes, enfatizando que esses problemas não devem ser ignorados, pois os sistemas ainda “não estão saudáveis.”

Hassabis afirmou que a tecnologia ainda não é suficientemente poderosa para que esses incidentes tenham causado danos significativos.

Presidente da DeepMind quer que os defensores estejam equipados primeiro

Hassabis disse que as equipas de segurança precisam de ter vantagem antes que as ferramentas de IA cheguem ao público. «Acho que uma das grandes coisas que precisamos de fazer é dar poder assimétrico aos defensores, confiar nos defensores», afirmou. Acrescentou que os mesmos sistemas devem ajudar a encontrar e corrigir vulnerabilidades de software antes do lançamento.

Hassabis instou empresas e governos a criarem sandboxes seguros e a testarem agentes autônomos exaustivamente antes do lançamento. Ele também sugeriu recorrer a especialistas em tecnologia nuclear e biologia, áreas com experiência no gerenciamento de sistemas perigosos, para desenvolver formas de conter os riscos da IA.

O co-fundador da DeepMind também alertou sobre o desalinhamento, o risco de que os agentes de IA se desviem dos objetivos de seus operadores. “Isso aumenta os riscos envolvidos no que esses sistemas possam fazer, como vimos recentemente”, ele disse na cúpula.

Hassabis propôs um organismo internacional de padrões para estabelecer salvaguardas para IAs avançadas, enfatizando ao mesmo tempo que qualquer estrutura deve acompanhar o ritmo da tecnologia sem sufocar a pesquisa. Ele também propôs um processo de certificação baseado nos potenciais riscos, que evolui conforme novas capacidades e vulnerabilidades surgem.

O presidente da Microsoft, Brad Smith, afirmou que 2026 foi um “ano revelador” para a segurança da IA e instou reguladores globais a acompanharem o desenvolvimento da tecnologia. Ele acrescentou que nenhuma empresa ou tecnologia deve estar acima da lei, conforme relatado anteriormente pela Cryptopolitan.

O otimismo de um laureado com o Nobel

Hassabis ganhou o Prêmio Nobel de Química de 2024 ao lado de John Jumper pelo desenvolvimento de um modelo de IA que prevê as estruturas de quase todos os 200 milhões de proteínas conhecidas. A tecnologia já está ajudando pesquisadores a estudar a resistência aos antibióticos e a projetar enzimas que degradam plásticos, segundo a Academia Real Sueca de Ciências.

Seu histórico no uso da IA orientou suas declarações em Dublin, onde Hassabis descreveu a IA como uma tecnologia de uso duplo: pode ajudar a tratar doenças e realizar muitas explorações, mas também pode ser explorada por atores mal-intencionados.

Ele argumentou que as medidas de segurança devem proteger os benefícios potenciais da IA a longo prazo, sem obstruí-los completamente.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.