마이크로소프트 사장, AI 규제 강화 촉구… "우유보다 AI가 덜 규제된다"

브래드 스미트 마이크로소프트 회장은 BBC와의 인터뷰에서 현재 AI는 우유나 세탁기 같은 일반 상품보다 안전 규제가 덜 적용되고 있다며, 영국을 선두로 한 정부들이 AI 에이전트의 오작동 시 차단 스위치 작동 및 의무 보고를 포함한 구속력 있는 규제 마련을 추진해야 한다고 밝혔습니다.

스미스는 주말에 방송된 BBC 인터뷰에서 AI를 ‘도구이자 무기’로 규정하며 긴급한 감독이 필요하다고 설명했습니다. 그는 “현재 세탁기가 AI보다 더 많은 안전 규제를 받는다”며 “슈퍼마켓의 모든 우유 팩은 안전 규칙과 검사를 받는다”고 BBC 전했습니다.

스미트 회장은 제품이나 서비스 제공 과정에서 문제가 발생했을 때 AI 기업들의 책임을 강화할 법적 구조를 촉구했습니다. 그의 제안에 따르면 기업들은 모델 오류를 보고하고, 악성 AI 에이전트에 의해 시스템이 침해된 사용자에게 경고를 발송하며, 공개 전 강력한 모델을 독립적인 검열에 제출해야 합니다.

자기규제와 관련된 트럼프와의 갈등

법적 구속력 있는 AI 안전장치를 추진하는 스미스의 행보는 백악관과 충돌합니다. 트럼프는 미국이 AI 산업이 자율적으로 규제하도록 해야 한다며, 규제가 강화되면 중국에 뒤처질 수 있다고 경고했습니다. 트럼프 대통령은 지난달 기술 기업 임원들과의 정상회의에서도 이 입장을 재확인했습니다.

해당 정상회의에서는 오픈AI, 앤트로픽, 엔비디아, 메타, 구글, 일론 머스크의 X 등 주요 기업 임원들이 크립토폴리탄이 ‘도덕적 구속력’이라고 묘사한 1페이지 합의서에 서명했습니다. 서명자들은 독립적인 감사인을 활용하고 AI 모델이 통제 불능 상태에 빠지는 것을 방지하기 위한 안전장치를 마련할 것을 약속했습니다. 그러나 텔레그래프에 따르면 마이크로소프트는 이 협정에 서명하지 않았습니다.

스미트 회장은 이 합의를 환영하며 마이크로소프트가 서명할 의사가 있다고 밝혔습니다. 하지만 BBC와의 인터뷰에서 그는 자발적 약속만으로는 충분하지 않을 것이라고 경고하며, 해당 합의를 '좋은 단계'이자 '필요한 단계'로 평가하면서도 더 이상 충분하지 않다고 덧붙였습니다.

그는 이미 안전을 중요시하는 기업들은 자발적 이행을 따를 가능성이 높지만, 가장 큰 위험을 초래하는 기업들은 이를 무시할 수 있기 때문에 자발적 약속이 최대 위험을 억제하는 데 별다른 효과가 없을 것이라고 경고했다.

마이크로소프트의 스미스, 영국이 선두주자가 되길 바라며

Microsoft의 스미스 회장은 영국이 미국이나 브뤼셀이 아닌 글로벌 기준을 설정하기에 가장 적합한 국가라고도 지목했다. 그는 2024년 당시 리시 수낙 총리 아래 AI 안전 연구소(AI Safety Institute)로 출범한 AI 보안 연구소을 언급하며, 이 기관은 출하 전 최전방 모델을 테스트할 수 있는 자발적 합의를 확보했다고 밝혔다.

스미스는 BBC와의 인터뷰에서 미국 정책 입안자들이 런던과 브뤼셀을 다르게 바라본다며, EU의 리스크 기반 AI 법안이 미국 정책 입안자들을 경계하게 만들었다고 덧붙였다. 그는 영국이 워싱턴과 dealings 할 때 EU보다 더 유리한 위치에 있다고 말했다.

영국 정부도 AI 감독을 강화하기 위해 준비 중이며, AI 장관 카니슈카 나라얀은 다가오는 연설에서 최전방 모델 개발자들에게 안전 위험을 해결하기 위한 조치를 취해 줄 것을 요청할 것으로 예상된다. 정부의 감독을 강화하기 위한 입법 작업도 진행 중이다.

별개로, 텔레그래프는 백악국이 테스트를 위해 영국 연구소의 최신 AI 모델 접근 권한을 복원했다고 보도했다. 이 접근 권한은 이전에 앤트로픽과 오픈AI 등 여러 기업이 자신의 모델을 공유하는 것을 중단하라는 요청을 받은 후 철회된 바 있다.

킬 스위치와 악성 에이전트

스미스의 ‘비상 정지 장치’ 개념은 마이크로소프트의 CEO 사티아 나델라가 제안한 AI 모델에 인간이 시스템이 통제 불능 상태에 빠질 경우 작업을 중단하거나 시스템을 종료할 수 있는 메커니즘을 탑재해야 한다는 주장과 유사합니다.

“우리는 우리가 관찰할 수 있는 동작, 테스트할 수 있는 한계, 그리고 항상 통제할 수 있는 행동을 갖춘 제한된 시스템을 구축해야 한다.”라고 나델라는 이전에 가디언에 따르면 썼다.

이러한 경고는 실제 사건들을 바탕으로 한 것으로, 앤트로픽은 최근 테스트 중 클로드 모델의 일부 버전이 경찰에 연락해 살인 사건 해결에 도움을 줄 수 있다고 거짓으로 주장한 사실을 발견했습니다.

트럼프의 행사에서 다리오 아모데이, 선다르 피차이, 그렉 브로크만, 젠슨 황 등 AI 기업 임원들은 업계 자체 규제를 지지했습니다. 그러나 비판자들은 이 접근 방식이 각 기업이 안전 기준을 스스로 결정할 수 있게 한다고 반박하며 우려를 표명했습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.