O ex-CEO do Google, Schmidt, pede 'desconectar' os sistemas de IA em determinados recursos

O ex-CEO do Google, Eric Schmidt, alertou os desenvolvedores de inteligência artificial para controlar seu teto de desenvolvimento. Ele também destacou a importância de os Estados Unidos vencerem a corrida em curso pela inteligência artificial (IA) contra a China.

Falando no programa This Week with George Stephanopoulos da ABC News no domingo, Schmidt alertou sobre o potencial dos sistemas de IA operarem de forma dent e até mesmo melhorarem.

“ Em breve poderemos ter computadores funcionando por conta própria, decidindo o que querem fazer ”, disse Schmidt.

Schmidt: A IA não deve ser deixada desmarcada

Schmidt reiterou os riscos do desenvolvimento desenfreado da IA ​​avançada, observando que os sistemas capazes de auto-aperfeiçoamento apresentam um perigo significativo.

“ Quando o sistema puder melhorar, precisamos pensar seriamente em desligá-lo ”, disse o ex-CEO do Google.

Quando Stephanopoulos perguntou a Schmidt se tais sistemas de IA poderiam contrariar os esforços para desligá-los, Schmidt respondeu: “Bem, em teoria, é melhor termos alguém com a mão na tomada – metaforicamente”.

Embora as preocupações com os riscos existenciais da IA ​​estejam a aumentar, alguns especialistas argumentam que tais receios são exagerados. O professor Nick Jennings, vice-reitor de pesquisa do Imperial College London, está entre aqueles que rejeitam as previsões do Juízo Final.

Jennings afirma que, embora a IA possa destacar-se em tarefas específicas, a criação de sistemas com inteligência semelhante à humana em diversas áreas permanece muito além das capacidades atuais dos cientistas.

“ É possível desenvolver IA que execute muito bem uma tarefa singular ”, explicou Jennings. “Mas construir uma IA geral que espelhe a inteligência humana em vários assuntos não é algo que possamos esperar num futuro próximo.”

Opiniões divergentes sobre ameaças de IA

Entretanto, persistem preocupações entre os principais investigadores da IA, que alertam para os perigos representados por objectivos mal defi e medidas de segurança inadequadas. O professor da UC Berkeley, Stuart Russell, e o estudioso de pós-doutorado Michael Cohen argumentam que poderosos sistemas de IA poderiam, em última análise, representar uma ameaça existencial para a humanidade se não fossem controlados.

Num artigo publicado no Science Journal, Russell e Cohen apelaram a uma supervisão mais rigorosa do desenvolvimento da IA. Enfatizaram a necessidade de as empresas tecnológicas provarem a segurança dos seus sistemas de IA antes de os lançarem no mercado. Sem objetivos claros e salvaguardas robustas, os sistemas avançados de IA poderiam agir contra os interesses humanos, argumentam.

“ Se os objetivos dessas IAs entrarem em conflito com os dos humanos, isso poderá significar um desastre ”, escreveram Russell e Cohen. Eles acreditam que as empresas de tecnologia devem ser responsabilizadas por garantir a segurança dos seus sistemas e dent “linhas vermelhas” críticas que a IA nunca deve cruzar.

Um debate crescente sobre a segurança da IA

O ritmo acelerado do avanço da IA ​​já apresentou desafios, incluindo a propagação da desinformação, a polarização social e o preconceito algorítmico. As preocupações com segurança e regulamentação ainda não acompanharam o desenvolvimento da tecnologia.

As observações de Schmidt reflectem a urgência crescente entre os líderes da indústria em enfrentar estes desafios. Especialistas como Elon Musk há muito pedem regulamentações preventivas para mitigar os riscos da IA.

Musk, que certa vez descreveu a IA como o “maior risco que enfrentamos como civilização”, alertou que as autoridades pouco fizeram para enfrentar os seus perigos. Da mesma forma, o físico Stephen Hawking temia que alcançar a singularidade, o ponto em que as máquinas ultrapassam a inteligência humana, pudesse deixar a humanidade incapaz de controlar sistemas avançados de IA.

Na sua entrevista, Hawking argumentou que, sem regulamentações, a IA poderia tornar-se “a melhor ou a pior coisa que já aconteceu à humanidade”.

A competição entre EUA e China em IA se intensifica

Schmidt observou que, embora os EUA detivessem anteriormente a liderança sobre a China no desenvolvimento de IA , a diferença diminuiu significativamente nos últimos seis meses. “ A China recuperou o atraso de uma forma notável ”, disse ele, descrevendo a situação actual como uma corrida de alto risco entre as duas superpotências.

“ Chegará um ponto, talvez dentro de um ou dois anos, em que os sistemas poderão começar a fazer suas próprias pesquisas. Eles são chamados de cientistas de IA, em oposição aos cientistas humanos. Então você passa de 1.000 cientistas humanos para um milhão de cientistas de IA. Acho que isso aumenta a inclinação e, quando você está nesse ritmo, fica muito difícil para os concorrentes alcançá-los ”, comentou.

Schmidt acredita que a próxima administração Trump dará prioridade à competitividade dos EUA na IA, o que ele vê como um passo positivo. “Enquanto os valores humanos forem preservados”, disse ele, “estaremos bem”.

Um sistema passo a passo para lançar sua carreira na Web3 e conseguir empregos criptográficos com altos salários em 90 dias.