비탈릭: 인류는 인공지능 전환 과정에서 '순진함과 순진함의 제곱'이라는 두 가지 선택지 사이에서 옴짝달싹 못하고 있다

Ethereum 공동 창립자 비탈릭 부테린은 고도화된 인공지능에 대한 공개적인 논쟁의 상당 부분이 양측이 실제로는 공유하지 않는 가정을 바탕으로 벌어진다고 주장합니다. 

비테린이 모든 AI 애플리케이션에 대해 제안한 '킬 스위치' 기능은 기술 업계에서 AI의 발전 속도와 그것이 노동 시장에 미치는 영향에 대한 또 다른 논쟁이 벌어지는 가운데 비판에 직면했습니다. 

인공지능 논쟁을 촉발하는 요인은 무엇일까요? 

에서 Ethereum AI 2040" 시나리오 지지자들과 비판자들 사이의 갈등은 AI 발전의 속도와 중요성에 달려 있다고 말했다.  공동 창립자 비탈릭 부테린은 X에 올린 글 "

AI 2040이라는 틀은tron대책이 없다면 2040년까지 어떤 형태든 초지능이 나타날 것이라는 가정을 바탕으로 합니다. 한편, 비판론자들은 AI 2040 지지자들이 인간의 협력 능력과 자유에 대한 위협을 과소평가하고 있다고 보지만, 초지능 자체를 권력 집중의 위험으로 보지는 않습니다.

부테린은 어떤 시나리오가 현실에 더 가까운지 확신할 수 없다고 인정했다. 그는 "만약 (현재와 같은) AI가 일반적인 기술이라고dent 한다면, 나는 AItrac진영에 속할 것이다. 만약 초지능이 2030년에 필연적으로 도래할 것이라고dent 한다면, 나는 AI 2040 진영에 더 가까울 것이다."라고 썼다. 

하지만 공동 창업자는 위험이 심각해질 경우 AI 개발 속도를 늦추거나 중단할 의향이 있다고 밝혔습니다.

이 토론에는 인공지능 연구원 얀 르쿤, 작가 대니얼 제프리스, 정책 분석가 아담 티어러가 참여했다. 

메타(나스닥: 메타)의 최고 AI 과학자인 얀 르쿤은 AI 안전성은 제트 엔진의 신뢰성을 확보하기 위해 신중하고 반복적인 설계를 거쳤던 것처럼 근본적으로 해결할 수 있는  엔지니어링 문제 라고 주장합니다

르쿤은 항공기를 진정으로 안전하게 만드는 데 "50년이 걸렸다"며, 인간 수준의 지능을 갖춘 시스템을 아직 개발하지 못한 상황에서 인공지능에 대한 두려움을 갖는 것은 시기상조라고 지적했습니다. 그는 대규모 언어 모델은 추론 능력과 인과 관계 이해가 부족한, 단순히 "자동 완성 기능만 제공하는 기계"에 불과하다고 일관되게 주장해 왔습니다. 

해리 호크(@hhawk)는 얀 르쿤의 의견에 동의하며, 미래의 AI 시스템은 항공기처럼 안전을 최우선으로 고려하여 설계될 것이라고 밝혔습니다. 그는 또한 AI와 로봇이 모든 것을 대체하여 일자리가 사라지는 일은 없을 것이라고 생각한다고 덧붙였습니다.

부테린은 그러한 관점이 "인공지능만으로 모든 작업을 수행할 수 있을 만큼 강력한 인공지능"의 존재를 부정하는 것이라고 반박하며, 그러한 인공지능을 인공 초지능(ASI)이라고 부른다.

강력한 인공지능 시스템을 어떻게 제어할 수 있을까요?

부테린은 모든 사람이 자신이 개발 중인 내용을 공개하도록 강제하는 광범위한 규칙과, 상황이 위험해질 경우 대규모 AI 학습을 늦추거나 중단할 수 있는 비상 정지 스위치를 포함하는 "플랜 A"를 제안했습니다.

그는 또한 어떤 인공지능 사용이 괜찮고 어떤 사용이 그렇지 않은지 마음대로 고를 수 있다고 생각하는 "순진하고 선의의 지식인들"이 이 계획에 반발할 것이라고 덧붙였다. 

비탈릭 부테린의 트윗에 일부 의혹을 제기했던 로미오 딘은 해당 접근 방식을 "꽤 합리적"이라고 평가하면서도, 자신의 세계관으로는 그 실행 시점이 너무 늦을 것이라고 지적했습니다. 그는 또한 비판자들이 A 계획에 대해 제기하는 "엄청난 단점"을 이해할 수 없다고 덧붙였습니다.

부테린은 완벽한 해결책은 없다고 인정했다. 그는 "인공지능으로의 전환에 대처하는 계획 중 순진하지 않은 계획은 하나도 보이지 않는다"며 "어쩌면 인류는 순진함과 순진함의 제곱 사이에서 선택해야 하는 상황에 놓인 것 같다"고 썼다

AI 2040: 플랜 A 보고서는 전 OpenAI 직원이었던 다니엘 코코타일로의 AI 미래 프로젝트에서 나왔습니다. 

보고서는 미국과 중국이 2040년까지 초지능 기술의 발전을 늦추기 위해 협력해야 한다고 주장합니다. 양국은 모든 연구 결과를 공개적으로 공유해야 하며, 필요시 양측이 상대방의 컴퓨팅 능력을 파괴할 수 있는 핵전쟁 논리에 기반한 시스템도 포함되어 있습니다. 이를 '상호 확증 컴퓨팅 파괴(MACD)'라고 부릅니다.

인공지능 연구원인 리처드 응오는 해당 보고서가 인공지능이 곧 도래할 것이라는 점을 지나치게 우려하고 있다고 지적했습니다. 또한 보고서가 인공지능이 각국 내부에서 야기할 수 있는 정치적 문제에 대해 충분히 고려하지 않았다고 덧붙였습니다.

오픈소스 모델이 해결책일까요?

이번 논쟁의 근저에는 오픈 소스 모델의 위상이 깔려 있습니다. 르쿤은 7월 9일 AI의 가장 큰 위험은 소수의 지배적인 기업에 "권력이 집중되는 것"이라고 지적했습니다. 그는 또한 "AI 주권을 확보하는 유일한 해결책은 오픈 소스 기반 모델"이라고 주장했습니다. 그의 글은 2,900개 이상의 좋아요와 430회 이상의 공유를 기록했습니다.

같은 날 글을 쓴 작가 대니얼 제프리스는 오픈 소스 모델이 미국 기술의 기반이라고 말하며 이를 제한하려는 "근시안적인 안전주의자와 강경파"에 대해 경고했습니다. 

R 스트리트 연구소 선임 연구원이자 하원 AI 태스크포스 보고서에 주요 의견을 제출한 정책 분석가 애덤 티어러는 미국의 AI 거버넌스가 "중대한 기로"에 서 있다고 경고했습니다. 

그는 현재 의회가 인공지능 검토에 있어 혼란스럽고, 무작위적이며, 비밀스러운 절차를 따르고 있다고 지적했습니다 . 그는 이러한 비공식적인 시스템이 확산되고 특별 승인을 통해 발전이 저해된다면 오픈 소스 인공지능이 파괴될 것이라고 경고했습니다. 

티에러는 엄격한 규제 대신 사람들이 자유롭게 AI를 개발하고 배포할 수 있도록 하는 "허가 없는 혁신" 접근 방식을 제안합니다. 그는 기존 법률을 필요한 경우 피해를 처벌하는 데 사용해야 하며, 새로운 AI를 위한 테스트 구역 설정, 일부 모델의 공개 유지 의무화, AI 연구에 대한 투자 확대와 같은 방안도 지지합니다. 

암호화폐 뉴스를 단순히 읽는 데 그치지 마세요. 이해하세요. 저희 뉴스레터를 구독하세요. 무료입니다.