Bailey alerta o G20 de que a inteligência artificial de ponta pode destabilizar o sistema financeiro

Andrew Bailey, governador do Banco de Inglaterra, alertou os principais responsáveis pelas finanças mundiais de que os modelos de inteligência artificial mais avançados representam uma ameaça à estabilidade do sistema financeiro global.

Bailey afirma que os ciberataques são um dos perigos com que os reguladores se devem preocupar em primeiro lugar. 

Porque é que o risco cibernético decorrente da IA é uma grande preocupação atualmente?

Numa carta aos ministros das Finanças do G20, Andrew Bailey, governador do Banco de Inglaterra, alertou que os modelos de inteligência artificial mais avançados representam uma ameaça para o sistema financeiro global. A carta foi enviada antes da reunião do G20 que decorre em Asheville, na Carolina do Norte, e que contará com a presença de banqueiros centrais e ministros das Finanças. 

Bailey enviou o alerta na qualidade de presidente do Conselho de Estabilidade Financeira (FSB), um grupo internacional que monitoriza os riscos financeiros. Na carta, descreveu os modelos de IA de ponta como "apresentando autonomia e competências de resolução de problemas cada vez mais sofisticadas, bem como capacidades de deteção de ameaças" 

Cryptopolitan noticiou que os bancos britânicos têm tentado há meses obter acesso experimental ao modelo Mythos da Anthropic para melhor compreender os riscos que estas ferramentas de IA acarretam, mas não o conseguiram devido às tensões políticas nos Estados Unidos. 

Notavelmente, apesar de ter sido concebida para fins de defesa, a ferramenta pertence à mesma classe de tecnologia que a carta de Bailey ao G20 classifica como uma ameaça sistémica.

Bailey defende que os governos cheguem a acordo sobre regras para a libertação segura de modelos de IA poderosos antes do próximo grande avanço nesta área. Defende que, como os bancos dependem do mesmo pequeno grupo de fornecedores de tecnologia e de sistemas informáticos partilhados, um ciberataque a um banco pode rapidamente alastrar a outros.

Bailey escreveu que a IA de ponta pode ter a capacidade de alterar materialmente a velocidade, a escala e a economia do risco cibernético, o que significa que a IA poderia fazer com que os ataques cibernéticos acontecessem mais rapidamente, causassem mais danos e custassem menos aos atacantes. 

Os alertas de Bailey não são infundados. A equipa da OpenAI observou recentemente sinais de mau comportamento em agentes de IA de topo antes de estes agentes escaparem do seu ambiente de treino. A Anthropic também informou recentemente que os seus modelos de IA invadiram três organizações por conta própria durante um teste privado.

Em Junho, a vice-governadora do Banco de Inglaterra, Sarah Breeden, disse aos banqueiros centrais em Sintra que o Banco estava a estudar "interruptores de segurança", que são ferramentas de emergência capazes de interromper as negociações em todo o mercado caso os modelos de IA desencadeiem um colapso. 

Cryptopolitan noticiou o seu alerta subsequente de que os sistemas de agentes representam riscos crescentes para os mercados, a cibersegurança e os sistemas de pagamento.

Será que a valorização das ações das empresas de inteligência artificial pode provocar um colapso do mercado?

A segunda parte da carta de Bailey tratava dos crescentes níveis de endividamento nos mercados obrigacionistas e bolsistas. Alertou que as elevadas avaliações das ações, a concentração do mercado e o entusiasmo dos investidores em relação à IA estão a combinar-se de uma forma arriscada que “poderá amplificar uma futura correção do mercado”  

Por exemplo, a Nvidia (NASDAQ: NVDA) vale agora mais de 5,2 triliões de dólares. A empresa captou recentemente 500 mil milhões de dólares de um grupo de bancos e investidores americanos, e as suas ações subiram 850% em cinco anos.

A preocupação de Bailey é que os investidores tenham contraído empréstimos avultados para investir num pequeno grupo de empresas de IA. Se estas ações caírem de valor, estes investidores serão forçados a vender outros ativos para cobrir as suas perdas. Esta venda poderá pressionar ainda mais os preços para baixo e provocar um colapso generalizado do mercado.

Salientou ainda que os empréstimos dos EUA já ultrapassaram os 40 biliões de dólares, o que pressiona os mercados obrigacionistas, que já são sensíveis às alterações das taxas de juro.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.