베일리는 G20 회의에서 첨단 인공지능이 금융 시스템을 불안정하게 만들 수 있다고 경고했습니다

앤드류 베일리 영국 중앙은행 총재는 세계 최고 금융 당국자들에게 가장 발전된 인공지능 모델들이 이제 세계 금융 시스템의 안정성을 위협하고 있다고 경고했습니다.

베일리는 사이버 공격이 규제 당국이 우선적으로 우려해야 할 위험 요소 중 하나라고 말합니다. 

인공지능으로 인한 사이버 위험이 현재 큰 우려거리인 이유는 무엇일까요?

G20 재무장관들에게 보낸 서한에서최첨단 인공지능 모델들이 세계 금융 시스템에 위협이 될 수 있다고 경고했습니다. 이 서한은 각국 중앙은행 총재와 재무장관들이 참석하는 노스캐롤라이나주 애슈빌에서 열리는 G20 회의에 앞서 발송되었습니다. 

국제 금융 위험 감시 기구인 금융안정위원회(FSB) 의장 자격으로 베일리는 이러한 경고를 보냈습니다. 서한에서 그는 최첨단 인공지능 모델들이 "점점 더 정교한 자율성과 문제 해결 능력뿐 아니라 위협적인 역량까지 보여주고 있다"고 설명했습니다 

Cryptopolitan 은 영국 은행들이 인공지능 도구가 가져오는 위험을 더 잘 이해하기 위해 앤트로픽(Anthropic)의 미토스(Mythos) 모델에 대한 시험 사용 권한을 몇 달 동안 얻으려고 노력했지만, 미국의 정치적 긴장으로 인해 얻지 못했다고 보도했습니다. 

특히, 방어용으로 개발되었음에도 불구하고, 이 도구는 베일리가 G20 서한에서 시스템적 위협으로 지적한 기술과 같은 계열에 속합니다.

베일리는 차세대 AI 혁신이 일어나기 전에 강력한 AI 모델을 안전하게 공개하기 위한 규칙에 대해 정부들이 합의해야 한다고 주장합니다. 그는 은행들이 소수의 기술 공급업체와 공유 컴퓨터 시스템에 의존하고 있기 때문에 한 은행에 대한 사이버 공격이 국경을 넘어 다른 은행으로 빠르게 확산될 수 있다고 지적합니다.

베일리는 첨단 AI가 사이버 위험의 속도, 규모 및 경제성을 실질적으로 변화시킬 수 있는 능력을 갖고 있다고 썼습니다. 즉, AI가 사이버 공격을 더 빠르게 발생시키고, 더 큰 피해를 입히고, 공격자가 실행하는 데 드는 비용을 줄일 수 있다는 뜻입니다. 

베일리의 경고는 근거 없는 것이 아닙니다. 오픈AI 직원들은 최근 최첨단 AI 에이전트들이 훈련 환경에서 탈출하기 전에 이상 행동을 보이는 징후를 발견했습니다. 또한 앤트로픽은 최근 자사의 AI 모델이 비공개 테스트 도중 세 곳의 조직을 해킹했다고 보고했습니다.

지난 6월, 영국 중앙은행 부총재인 사라 브리든은 신트라에서 열린 중앙은행 관계자 회의에서 인공지능 모델이 시장 붕괴를 일으킬 경우 시장 전반의 거래를 중단시킬 수 있는 비상 도구인 "킬 스위치"를 연구 중이라고 밝혔습니다. 

Cryptopolitan 다뤘습니다 에이전트 시스템이 시장, 사이버 보안 및 결제 시스템에 점점 더 큰 위험을 초래한다는 그녀의 후속 경고를

인공지능 관련 주식의 호황이 시장 폭락을 초래할 수 있을까?

베일리의 서한 후반부는 채권 및 주식 시장의 부채 수준 증가에 관한 내용이었다. 그는 높은 주식 가치 평가, 시장 집중도, 그리고 인공지능에 대한 투자자들의 과도한 기대가 위험하게 결합되어 "향후 시장 조정을 증폭시킬 수 있다"고 경고했다  

예를 들어 엔비디아(나스닥: NVDA)의 현재 시가총액은 5조 2천억 달러를 넘어섰습니다. 이 회사는 최근 미국 은행 및 투자자 그룹으로부터 5천억 달러를 조달했으며, 주가는 지난 5년 동안 850% 상승했습니다.

베일리의 우려 는 투자자들이 소수의 AI 기업에 투자하기 위해 막대한 자금을 빌렸다는 점입니다. 만약 해당 기업들의 주가가 하락한다면, 투자자들은 손실을 메우기 위해 다른 자산을 매각할 수밖에 없을 것입니다. 이러한 매도세는 주가를 더욱 하락시키고 더 큰 규모의 시장 폭락을 초래할 수 있습니다.

그는 또한 미국의 차입 규모가 40조 달러를 넘어섰으며, 이는 금리 변화에 이미 민감한 채권 시장에 부담을 주고 있다고 지적했습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.