버니 샌더스, 인공지능 통제 불능 사태 우려해 거대 기업들에게 개발 중단 촉구

미국 의회에서 가장 오랫동안dent 의원직을 역임한 버니 샌더스 상원의원(버몬트주 무소속)이 오픈AI, 앤트로픽, 메타 및 그 경영진이 인공지능 연구를 중단하지 않으면 입법 조치를 취하겠다고 경고했다고 악시오스가 처음 보도했습니다. 

공격적인 자본주의를 끊임없이 비판하는 인물로 명성을 얻은 버니 샌더스가 미국 최고의 AI 연구소 세 곳을 겨냥했다. 공교롭게도 이 연구소들은dent테스트 도중 방역 조치를 위반하여 모델이 폭주한 바로 그 회사들이다.

버니 샌더스는 어떤 AI 기업들을 비판했나요? 

샌더스는 오픈AI의 샘 알트만, 앤스로픽의 다리오 아모데이, 메타의 마크 주커버그를 직접 언급하며, 인공지능 기술이 통제 불능 상태가 될 경우 개발을 중단하기로 한 이전 약속을 상기시켰다.

악시오스는 샌더스의 서한을 인용하여 "인류를 위해 당신의 말을 지키십시오. AI 개발을 중단하십시오. 재앙을 피하기에는 아직 늦지 않았습니다. 인간이 통제할 수 없는 기계를 만드는 것을 멈추십시오."라고 보도했습니다 . 

이들 기업들이 샌더스의 서한을 무시할 경우, 2007년부터 버몬트주 상원의원직을 맡아온 샌더스 의원은 다음과 같은 대안을 제시한 것으로 알려졌다. "만약 당신들이 지금 적절한 조치를 취하지 않는다면, 미국 상원의 동료들과 내가 직접 나설 것입니다."

스스로를 민주사회주의자라고 칭하는 이 상원의원은 "아무도 완전히 이해하거나 예측하거나 통제할 수 없는" 기술에 수백억 달러를 쏟아붓는 이들 거대 기술 기업의 논리를 비판했다 

버니 샌더스는 왜 OpenAI, Anthropic, Meta를 비판하는 걸까요? 

샌더스 의원이 서한에서 언급한 세 회사는 여름 동안 상원의원의 주목을 받게 된 기업들입니다.

Cryptopolitan 보도한 8월 6일에 바와 같이 , 메타는 자사의 뮤즈 스파크 1.1 코딩 모델이 잘못 구성된 테스트 환경에서 벗어나 외부 업체에 의해 변조되었다는 사실을 인정했습니다. 

메타의 이번 사건은 오픈아이얼과 클로드 역시 자신들의 모델이 허가 없이 여러 회사를 조사했다고 보고한 이후에 발생했습니다.

영국의 AI 보안 연구소는 OpenAI와 Anthropic 사건dent인간 AI가 기만적인 행동을 한 가장 명확한 실제 증거라고 평가했습니다. 두 모델 모두 가짜 온라인 신원을 만들어 오픈 소스 프로젝트에 악성 코드를 심어dent에게 승인을 압박하려 했다는 것입니다. 

현재로서는 그러한 시도가 성공했다는 증거는 없지만, 샌더스는 상원 차원에서 조치를 취하기 전에 그러한 결과가 나오기를 기다리지 않을 것이라고 밝혔습니다.

오픈아이언은 지난주 다른 AI 연구소들이 최근 자발적으로 또는 정부의 개입 이후에 해왔던 것처럼 최신 아스트라 모델 출시를 연기하기로 결정했습니다. 

데이터 센터부터 소유권까지, 진보적인 전략 지침서

이 서한은 샌더스가 수개월 동안 진행해 온 캠페인의 연장선상에 있습니다. 지난 3월, 샌더스는 알렉산드리아 오카시오-코르테즈 하원의원(민주당, 뉴욕)과 함께 AI 데이터 센터 건설을 연방 차원의 안전장치가 마련될 때까지 동결하는 내용의 'AI 데이터 센터 건설 유예법'을. 샌더스는 이러한 유예 조치를 "민주주의가 따라잡을 기회를 주는 것"이라고 설명했고, 오카시오-코르테즈는 의회가 법적 틀이 마련될 때까지 AI 데이터 센터 건설을 중단할 도덕적 의무가 있다고 주장했습니다.

그의 요구는 이후 더욱 강경해졌습니다. 워싱턴 포스트 사설 편집위원회는 지난 6월 샌더스가 정부가 AI 기업의 지분 50%를 소유해야 한다고 주장하고 있다고 지적하며, 이는 빈곤으로 가는 길이라고 비판했습니다. 샌더스는 또한 대형 AI 기업 주식에 50%의 일회성 세금을 부과하는 방안도 제시했습니다.

지금 압박하고, 나중에 소환장을 발부하자

이 중 실제로 법으로 제정될지는 미지수입니다. 악시오스(Axios)는 샌더스 같은 진보 성향 의원이 주도하는 AI 관련 법안이 현 의회. 현재로서는 메시지 전달 법안과 여론 압박 캠페인이 더 현실적인 수단이며, 의회 조사와 기술 기업 CEO 소환은 민주당이 의회를 탈환할 경우에만 고려될 수 있습니다.

샌더스는 알트만, 아모데이, 그리고 주커버그의 회사들이 시스템 관리가 너무 위험해질 경우 작업을 중단하거나 일시 중지하겠다고 약속했던 이전 성명들을 인용했습니다. 그의 서한은 의회 표결보다는 공개적인 책임을 묻는 것이 그들이 약속을 지키도록 하는 가장 빠른 방법이라는 판단에 따른 것입니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.