구글 딥마인드 CEO, 인공 일반 지능(AGI)의 위협이 다가오는 만큼 미국이 규제를 주도해야 한다고 촉구

구글 딥마인드의 공동 창립자이자 CEO인 데미스 하사비스는 미국 정부가 세계에서 가장 강력한 AI 모델들을 감시하는 새로운 규제 기관을 설립해야 한다고 주장했습니다. 이 기관은 위험성이 커질 경우 업계에 개발 속도를 늦추도록 명령할 권한도 갖게 될 것입니다.

그는 7월 14일에 발표한 선언문에서 이 내용을 자세히 설명하며 연말 이전에 해당 기구를 출범시키고 싶다고 밝혔습니다.

하사비스는 인공지능 분야의 선두 주자 중 한 명입니다. 그는 단백질 접힘 연구로 2024년 노벨 화학상을 공동 수상했으며, 제미니 프로젝트를 담당하는 연구소를 이끌고 있습니다.

그는 인터뷰 에서 인공지능 감독이 이루어져야 할 시점에 이르렀으며matic, 연구소 자체에서 자금을 지원하고, 기술 전문가를 배치하고, 미국 정부에 책임을 져야 한다고 밝혔습니다.

미국 인공지능 규제기관은 어떤 조치를 취할까요?

하사비스는 증권거래위원회(SEC)의 권한 아래 월스트리트 브로커들을 감독하는 민간 업계 자금 지원 규제 기관인 금융산업규제기구(FINRA)를 모델로 삼아 해당 기관을 설립하고 있다.

그의 계획에 따르면, 첨단 연구소들은 출시 최대 30일 전에 자발적으로 모델을 넘겨주어, 인체가 사이버, 생물학적, 그리고 "기만" 능력 등 위험한 기능을 테스트할 수 있도록 할 것이다.

그는 해당 테스트가 신뢰할 만하다고 입증되면 공식적인 규정이 "신속하게 뒤따를 수 있다"고 밝혔는데, 이는 해당 모델이 미국 시장에 출시되기 전에 테스트를 통과해야 한다는 의미입니다.

하사비스는 이러한 기준이 모든 최첨단 시스템에 적용될 것이며, "시스템의 출신 국가나 개방형인지 폐쇄형인지에 관계없이" 적용될 것이라고 덧붙였습니다. 또한 기술이 발전함에 따라 기준도 업데이트될 것이라고 밝혔습니다.

그는 또한 이사회가 튜링상 수상자와 기타dent연구자들로 구성된 독립적인dent차지하고, 산업계, 정부 및 오픈 소스 개발자들을 위한 자리도 마련되기를 바란다고 말했다. 그는 "프론티어"라는 명칭이 일종의 지위의 상징이 될 것이라고 언급하며, "그것은 매우 훌륭하고 명예로운 자산이라고 생각합니다."라고 덧붙였다

하사비스는 왜 지금 인공지능 감시 기구 설립을 요구하는 걸까요?

하사비스는 오늘날의 AI 기반 사이버 공격은 "경고 사격"이라고 말했습니다. 그의 말에 따르면, 18개월 안에 어떤 정부도 제거할 수 없는 더욱 심각한 생물학적 및 핵 위협이 오픈 소스 모델 안에 숨어 있을 수 있다고 합니다. 그는 또한 이러한 위협이 오픈 소스 시스템에만 국한되지 않고 연구소들이 자체 개발할 미래의 독점 모델에도 동일한 위험이 내재되어 있을 것이라고 덧붙였습니다.

그는 감시 기구를 몇 달 안에 가동시키고 싶다고 말했으며, 공식 발표에 앞서 최근 몇 주 동안 트럼프 행정부, 경쟁 연구소 책임자, 유럽 관계자들을 대상으로 브리핑을 진행했다고 밝혔습니다. 그는 백악관과의 회담에 대해 "매우 긍정적인 반응을 얻고 있다"고 말했습니다.

해당 행정부는 지난달까지는 소극적인 접근 방식을 선호했지만, 이후 앤트로픽의 미소스(Mythos) 및 페이블(Fable) 모델에 대해 수출 통제 명령을접근을 제한했습니다. 이 명령은 나중에 해제되었고, 앤트로픽은 더 강화된 통제 조치를 적용하여 해당 모델들을 다시 출시했습니다.

반면 OpenAI는 상무부와의 테스트를 거쳐 지난주 공개하기 전에 정부 검증을 거친 파트너에게만 GPT-5.6을 제공 하기로 합의했는데, 이는 Anthropic과 같은 결과를 피하려는 시도로 해석되었다

하사비스는 이번dent 이 "일종의 경각심을 일깨워주는 계기"라고 말했습니다

드문 의견 일치

앤트로픽의 CEO인 다리오 아모데이는 또한 안전하지 않은 AI 모델을 규제할 권한을 가진 기관이 있어야 한다고 주장하며, 구속력 있는 규칙과 FAA와 같은 기관의 설립을 촉구했습니다.

아모데이의 입장은 하사비스의 입장과 일치하지만, 하사비스는 업계 주도의 보다 간소화된 FINRA 구조를 선호한다.

하사비스가 상황의 심각성이 빠르게 고조되고 있다고 믿는 점은 주목할 만하다. 그는 인간의 모든 인지 능력을 따라잡는 인공 일반 지능(AGI) 시스템이 "아마도 몇 년 안에 등장할 것"이라고 말했으며, 스탠퍼드 행사에서는 2030년경, "1년 정도 오차 범위 내에서" 등장할 것이라고 예측했다. 그는 선언문에서 연구자들이 "모래가 생각하게 만드는 방법을 발견했다"며 이를 "기적"이라고 칭했다

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.