빌 게이츠, AI 관련 법적 보호 장치 지지…전 세계 AI 투자액 1조 달러 돌파

빌 게이츠는 AI 기업들이 자율 규제를 하도록 허용해서는 안 된다고 경고하며, 워싱턴에 안전 규정을 마련할 것을 촉구했다.

마이크로소프트 공동 창업자는 NBC 뉴스 인터뷰 , 이는 "밋 더 프레스"에서 전체 인터뷰가 방송되기 이틀 전이었다.

그는 골드만삭스가 2026년 전 세계 AI 투자액이 1조 달러를 넘어설 것으로 예측한 시점에 이러한 경고를 내놓았습니다. 이는 새로운 안전 규제가 개발자, 투자자, 그리고 해당 규정 시행을 위한 새로운 보안 시스템 구축에 힘쓰는 기업들에게 중대한 영향을 미칠 수 있음을 의미합니다.

“자기 규제만으로는 충분하지 않다고 생각하는 사람은 아무도 없다.”

사회자 크리스틴 웰커가 의회의 조치 필요성에 대해 질문하자 게이츠는 "물론입니다"라고 답했다.

게이츠는 "자율 규제만으로는 충분하지 않다고 생각하는 사람은 아무도 없다"고 말했습니다. 그는 입법부와 법 집행 기관이 AI 기업들이 위험을 모니터링하는 방법과 필요한 안전장치에 대해 defi법률을 제정해야 한다고 믿습니다. 그는 개발자들의 책임은 발전을 저해하는 요소가 아니라 "약간의 추가 부담"이라고 표현했습니다.

그의 우려는 일반적인 오용을 훨씬 넘어섭니다. 빌 게이츠는 NBC와의 인터뷰에서 인공지능이 "수십억 명의 목숨을 앗아갈 만한 사건을 일으킬 만큼 강력하다"고 말했으며, 특히 이러한 첨단 시스템이 악의적인 사람들의 손에 넘어갈 경우 더욱 그렇다고 강조했습니다.

업계 리더들은 이러한 안전장치가 어느 정도까지 시행되어야 하는지에 대해 의견이 분분합니다. 앤트로픽(Anthropic)의 CEO 다리오 아모데이는 집단적 속도 저하의 가장 극단적인 형태로 "완전한 속도 조절 또는 '일시 중단'"을 제안했습니다. 오픈AI의 CEO 샘 알트만 역시 비슷한 우려를 표명하며 "속도 조절은 이러한 비용을 감수할 만한 가치가 있다"고 주장했고, 경쟁에서 앞서나가야 한다는 압박감이 무모한 행동을 정당화하는 구실이 되어서는 안 된다고 강조했습니다.

하지만 메타의 CEO인 마크 저커버그는 다른 의견을 제시했습니다. NBC 뉴스와의 인터뷰에서 그는 "업계 차원의 조정이 필요하다고 생각하지 않는다"고 밝혔습니다. 그는 연구실들이 안전 문제에 대한 위험이 있다고 판단될 때만 속도를 늦추는 것이 바람직하다고 생각합니다.

게이츠는 개발을 중단하는 것이 아니라 위험을 관리하기를 원합니다

게이츠는 기술 업계에 인공지능 시스템 개발을 중단하라고 요구하는 것뿐만 아니라, 8월에 발표한 자신의 저서 '게이츠 노트'인공지능이 "역사상 가장 위대한 평등의 도구가 되거나, 최악의 불의의 원천이 될 것"이라고 경고했습니다.

그는 또한 인공지능 개발을 지속해야 할 경제적, 정치적 이유가 모두 존재하기 때문에 그러한 계획이 효과적일 수 있을지는 확신하지 못하지만, 전 세계적인 인공지능 개발 속도 둔화를 위한 신뢰할 만한 계획이 있다면 지지할 가능성이 높다고 언급했습니다.

따라서 그의 입장은 단순히 새로운 기술 개발을 막는 데 그치는 것이 아니라, 인공지능 기술이 의학, 법률, 소프트웨어, 고객 서비스 등 다양한 분야에 적용될 때 기업, 정부, 그리고 개인들이 그에 대비할 수 있도록 준비시키는 데 있다.

1조 달러 규모의 시장이 규정을 기다리고 있습니다

인공지능(AI)에 막대한 자금이 쏟아지는 가운데, AI 관련 안전장치에 대한 논쟁이 동시에 진행되고 있어 새로운 규정 마련의 중요성이 더욱 커지고 있습니다. 골드만삭스는 2026년 전 세계 AI 투자액이 1조 달러를 넘어설 것으로 예상하며, 이 중 미국 투자액은 약 5,810억 달러에 달할 것으로 전망합니다. 또한 2022년 이후 누적 투자액은 연말까지 1조 8천억 달러에 육박할 것으로 예상됩니다.

인공지능(AI) 투자 증가에도 불구하고 마이크로소프트는 모든 사람이 enjAI의 이점과 혜택을 동등하게 누리고 마이크로소프트의 AI 확산 데이터는 글로벌 북반구와 남반구 간의 격차가 커지고 있음을 보여주며, OECD는 AI 역량이 여전히 소수의 국가와 기업에 국한되어 있다고 강조합니다.

이로 인해 규제는 더욱 어려운 균형 잡기가 되었습니다. 더 나은 보호 조치는 위험을 줄일 수 있지만, 소규모 연구소나 경제적으로 덜 부유한 국가의 경우 이러한 규정을 준수하는 데 드는 추가 비용이 감당하기 매우 어려울 수 있습니다.

규제 체계가 이미 파편화되고 있다

더욱 엄격한 규제를 요구하는 목소리가 높아지고 있으며, 이를 뒷받침하는 증거들이 점점 늘어나고 있습니다. '2026년 국제 AI 안전 보고서'는 AI 시스템의 역량 증대가 야기하는 현재의 위험과 미래의 잠재적 위협을 설명하고 있습니다.

한편, 각국 정부는 이미 이러한 위험에 대한 규제를 마련하고 있습니다. TRM Labs 에 따르면 , 각국이 인공지능(AI) 거버넌스, 구현 및 책임에 대해 서로 다른 접근 방식을 취함에 따라 AI 규제의 새로운 글로벌 "파편화"가 나타나고 있습니다.

유럽연합은 다른 대부분의 국가보다 이러한 목표를 더욱 적극적으로 추진해 왔습니다. EU 인공지능법, 범용 인공지능 제공업체는 훈련 데이터에 대한 문서화, 저작권 및 투명성 측면에서 엄격한 의무를 준수해야 합니다. 10^25 FLOP 이상의 연산 능력을 사용하는 모델은 시스템적 위험을 내포하는 것으로 간주되어 모델 평가, 위험 관리, 사고 보고 및 사이버 보안에 대한 추가 기준이 적용dent .

규제가 강화됨에 따라 기업들이 이를 준수하기 위해 지출하는 금액도 증가하고 있습니다. 가트너, 2027년까지 기업들이 AI 보안을 위해 지출하는 금액은 68.7% 증가하여 약 48억 달러에 달할 것이며, 2028년에는 77억 달러에 이를 것으로 예상됩니다.

워싱턴 역시 보다 강력한 규제 체계를 향해 나아가고 있는 것으로 보입니다. Cryptopolitan, 상원 협상단은 인공지능 개발자에게 '주의 의무'를 부과하는 초당적 법안을 검토 중이며, 이 법안이 통과되면 정부는 안전하지 않은 모델의 배포를 막을 수 있게 됩니다. 만약 이 법안이 승인된다면, 빌 게이츠가 주장하는 보호 메커니즘이 자발적 의무의 영역에서 법적 구속력이 있는 책임으로 전환될 것입니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.