A ascensão da IA ​​na tomada de decisões

A explosão da inteligência artificial (IA) está a encher o nosso mundo com sonhos idealistas ou previsões apocalípticas, mas nenhum dos dois capta a ameaça real.

Não estamos enfrentando uma “grande rebelião de robôs”, onde IAs ou robôs encenam uma aquisição hostil. Esqueça as cenas do filme O Exterminador do Futuro ou Matrix – isso não está nos planos. A tecnologia para as IAs conquistarem o mundo não existe.

A IA pode ser excelente em tarefas específicas, como dobrar proteínas ou jogar xadrez, mas não é capaz de construir exércitos ou governar nações.

No entanto, esta falta de uma revolta robótica não significa que estamos seguros. A IA está a infiltrar-se silenciosamente nas nossas vidas através de meios menos matic , mas igualmente poderosos: a burocracia digital.

O verdadeiro perigo não são os robôs assassinos. É a invasão da IA ​​nas decisões que controlam a nossa vida quotidiana. Os humanos evoluíram para temer ameaças tangíveis. Pense em grandes predadores, como leões e tubarões.

Mas estamos menos preparados para detectar ameaças provenientes de papelada, documentos ou burocracia. A própria burocracia é uma invenção relativamente nova, tendo-se desenvolvido há apenas 5.000 anos com a criação da escrita.

Antes de escrever, a propriedade, por exemplo, dependia do acordo acordado pela comunidade. Se você “possuía” um terreno, era porque seus vizinhos o respeitavam. Não foram necessários documentos.

De tabuletas de argila a burocratas digitais

Tudo isso mudou quando as pessoas começaram a usar placas e discos de argila. Documentos escritos significavam que os direitos de propriedade não eram mais uma questão de consenso comunitário, mas de registros oficiais. Os antigos mesopotâmicos transformaram pedaços de lama em símbolos oficiais de propriedade, invertendo a ideia de propriedade.

Uma decisão judicial poderia ser baseada em uma placa de argila dizendo que você era dono de um terreno, mesmo que a comunidade não concordasse. Avançando até hoje, nossos sistemas ainda são construídos com base em princípios semelhantes, só que agora usamos chips de silício e registros digitais em vez de argila.

Esta mudança transformou as estruturas de poder. A propriedade tornou-se algo que poderia ser vendido e negociado sem o consentimento da comunidade local. Surgiram burocracias, tornando possível a arrecadação de impostos, o financiamento militar e o governo central.

Os burocratas tornaram-se intervenientes essenciais nestes sistemas, utilizando registos, formulários e selos para gerir exércitos, alocar recursos e até controlar leis. Estes sistemas burocráticos deram origem a estados centralizados com controlo extensivo sobre as suas populações, um controlo que agora está a ser transferido para a IA.

A IA não precisa criar um exército de robôs; só precisa dominar os sistemas burocráticos. Dentro destas estruturas, a IA pode tomar decisões mais influentes do que qualquer ser humano, como visto hoje. As IAs já estão decidindo se conseguiremos empréstimos, ofertas de emprego, admissões em faculdades e até diagnósticos médicos.

Imagine banqueiros de IA determinando a elegibilidade de crédito, juízes de IA decidindo em processos judiciais ou IAs militares calculando alvos de ataque. A IA não precisa de uma rebelião de robôs. O poder burocrático que herda já é enorme.

IA nas redes sociais e influência pública

Os algoritmos das redes sociais, embora primitivos, já exercem um poder enorme. Os algoritmos de IA, especialmente os do Facebook, X (antigo Twitter), YouTube e TikTok, são criados com um objetivo em mente: - Envolvimento do usuário. Quanto mais tempo as pessoas permanecem nestas plataformas, mais dinheiro flui para as empresas.

Por tentativa e erro com bilhões de usuários, esses algoritmos descobriram que desencadear emoções como ganância, raiva e medo aumenta o engajamento. Quando pressionam esses botões emocionais, eles mantêm os usuários fisgados.

Esses algoritmos não se limitaram à otimização do tempo gasto online. Eles foram além, descobrindo que conteúdos que provocam emoções intensas aumentam o envolvimento do usuário. Esta descoberta resultou na disseminação de teorias da conspiração, desinformação e divisões sociais.

O mundo hoje está inundado pela indignação digital, pelo medo e pela polarização, graças a algoritmos que priorizam os cliques em detrimento da coesão. Ao explorar gatilhos emocionais, os algoritmos das redes sociais alimentaram a atual epidemia de teorias da conspiração e notícias falsas.

Esses “decisores” algorítmicos não são inerentemente maliciosos. Pelo contrário, estão otimizados para desempenhar as suas funções de forma eficiente. Ainda assim, as suas decisões carecem da intuição humana ou do contexto que normalmente esperamos em áreas tão importantes.

A IA pode fazer julgamentos mais rápidos ou mais consistentes, mas se algo der errado, os resultados podem ser desastrosos. Este risco potencial já se tornou visível na influência das redes sociais na sociedade, servindo como um alerta para onde o poder desenfreado da IA ​​poderá levar.

Biden define regras de IA para o Pentágono e agências de inteligência

O dent Joe Biden anunciou um memorando de segurança nacional com novas regras para a utilização da IA ​​na segurança nacional, evitando que o Pentágono e as agências de inteligência utilizem a IA de formas que contradizem os valores democráticos.

Esta é a primeira directiva que orienta o papel da IA ​​na segurança nacional. As novas regras encorajarão a experimentação da IA, garantindo ao mesmo tempo que os órgãos governamentais não a utilizam para infringir direitos como a liberdade de expressão ou minar os controlos nucleares.

“Nosso memorando orienta a primeira estrutura governamental sobre nossos compromissos de gestão de risco de IA”, disse o Conselheiro de Segurança Nacional Jake Sullivan. Ele delineou metas para evitar preconceitos, defender a responsabilidade e garantir a supervisão humana da IA ​​em funções sensíveis.

Embora não sejam juridicamente vinculativas, as regras abrangem aplicações de segurança nacional, como segurança cibernética, contra-espionagem e logística em operações militares. Biden também emitiu controles de exportação no ano passado, retardando os avanços da IA ​​da China ao restringir o acesso à tecnologia.

De acordo com a diretiva, o AI Safety Institute em Washington será responsável por inspecionar as ferramentas de IA para evitar o uso indevido antes do lançamento, com a comunidade de inteligência dos EUA priorizando o monitoramento dos avanços da IA ​​em outros países.