'AI 안전성'이 세계 패권 장악 수단으로 사용될 수 있을까?

비탈릭 부테린은 기업과 정부가 '인공지능 안전'이라는 이론적 개념을 점점 더 논란의 여지가 있는 방식으로 사용하는 것에 대해 우려를 표명

비탈릭 부테린은 소셜 미디어 플랫폼 X에서 과 같은 안전을 위한 적절한 조치가 무엇인지 아닌지를 좌우해서는 안 된다고 그렇게 되면 tron 이 규칙을 만드는 시스템이 구축되기 때문 입니다.

'AI 안전성'이 세계 패권 장악 수단으로 사용될 수 있을까

비탈릭 부테린은 최근 소셜 미디어 플랫폼 X를 통해 인공지능 안전이라는 개념이 대기업과 국가적 이익에 의해 악용

예를 들어, 앤트로픽은 최근 복지부(DoW)나 기타 정부 기관이 자사의 클로드 모델을 대규모 감시 또는 완전 자율 무기에 사용하는 것을 허용하지 않아 찬사를 받았습니다.

하지만 해당 회사는 인공지능 모델의 성능이 회사의 안전성 입증 능력을 뛰어넘을 경우, 안전 조치가 마련될 때까지 모든 교육 및 배포를 무조건 중단해야 한다는 내용의 서약을

비탈릭은 고 지적했습니다 . 그들은 클로드 자체가 인터넷에 있는 방대한 공개 지식을 바탕으로 모델을 훈련시켰다고 주장했습니다.

오픈소스 경쟁업체들이 필요한 안전장치가 부족하고 위험을 초래한다는 점이 문제라고 주장 안전 조치가 적절한지는 앤트로픽이 결정할 수 있는

부테린은 앤트로픽의 행동이 "가장tron자가 규칙을 만드는" 시스템을 시사한다고 말했다

그는 인공지능 안전 문제가 "우리 회사/우리 나라가 세계를 지배할 자격이 있다"는 사고방식과 구별되지 않게 된다면 더욱 위험한 세상이 만들어질 것이라는 우려를 표명했다.

그는 안전 규정이 필연적으로 국가 안보 기관을 예외로 둔갑시킨다면, 해당 규정 자체가 취약해질 것이라고 주장합니다. 특히 최근 주요 AI 연구소들이 군사적 용도를 위한 안전한 AI 환경을 제공하기 위해trac업체들과 수십억 달러 규모의 파트너십을 모색하고 있다는 소식이 전해진 만큼, 이러한 주장은 더욱 중요하게 다뤄져야 합니다.

인공지능 규제는 위험한가?

수년 전, 비탈릭 부테린은 미래생명연구소(FLI)의 최대 기부자 중 한 명이 되었습니다. 2021년, 그는 시바견 코인(SHIB) 개발자들로부터 엄청난 양의 Shib토큰을 선물 받았습니다. 시바견 코인 거품이 정점에 달했을 때, 그 가치는 10억 달러를 넘었습니다. 비탈릭은 이자율이 떨어지기 전에 서둘러 기부금을 마련했고, 약 5억 달러 상당의 SHIB 을 FLI에 보냈습니다.

당시 FLI는 생물학적 위협이나 핵전쟁과 같은 위험에 초점을 맞추었습니다. 그러나 FLI는 이후 공격적인 정치적 행동과 로비 활동으로 초점을 옮겼으며, 비탈릭이 우려하는 규제들을 종종 추진하고 있습니다. 특히 그는 AI 모델에 "나쁜 것"을 거부하도록 하는 장치를 넣는 것에 반대합니다.

비탈릭은 이러한 제한 조치가 탈옥이나 미세 조정으로 쉽게 우회될 수 있기 때문에 취약한 해결책이라고 생각합니다.

더욱 중요한 것은, 그는 이러한 전략들이 결국에는 선의의 독점을 유지하기 위해 오픈소스 AI가 금지되는 암울한 상황으로 이어질 것을 우려한다는 점입니다.

비탈릭은 대신 방어적 가속주의(d/acc)라는 시스템을 옹호하고 있습니다. 이 철학은 위험한 기술을 다루는 최선의 방법은 먼저 방어막을 구축하고 오픈소스로 공개하는 것이라고 주장합니다.

생물 방어, 같은 프로젝트에 4천만 달러를 할당했습니다 .

보안 하드웨어는 컴퓨터 칩을 해킹 불가능하게 만들어 대규모 스파이 활동에 악용되지 않도록 합니다. 생물방어는 전염병을 조기에 감지하고 차단하기 위해 첨단 공기 여과 기술과 수동 PCR 검사법 개발을 포함합니다. 사이버 보안에 대한 투자는 소프트웨어 검증 가능성을 향상시켜 AI 기반 공격으로 핵심 기반 시설이 쉽게 마비되지 않도록 합니다.

암호화폐 뉴스를 단순히 읽는 데 그치지 마세요. 이해하세요. 저희 뉴스레터를 구독하세요. 무료입니다 .