OpenAI와 Anthropic, 1년 내 닥칠 AI 재앙에 대비해 워싱턴을 준비시키다

AI 업계 다수는 6~12개월 내에 주요 AI 기반 사고가 발생할 것으로 전망한다. Axios에 따르면 앤트로픽, 오픈AI 및 기타 대형 개발사들의 임원들은 이미 사후 규제를 작성할 의원들과 접촉하고 있다.

임원진은 현재 어떤 AI 법안도 통과될 가능성이 없다는 점을 인정하고 있으며, 따라서 첫 재해가 발생했을 때 워싱턴이 작성할 긴급 입법 조치에 앞서 선제적으로 대응하려 하고 있다.

샌더스 법안은 위반자에게 최대 20년의 징역형을 부과한다

계획가들은 민주당이 11월 3일 중간선거에서 더 유리한 고지를 점령하고, 고급 AI에 대해 신속하게 대응할 것으로 예상합니다. 그러나 이 움직임은 기술을 제대로 이해하지 못하는 기존 의회와 데이터센터 투자 및 누구나 다운로드할 수 있는 오픈 웨이트 모델에 의존하는 경제와 충돌하고 있습니다.

민주당 내 분열과 갈등이 있음에도 불구하고, 양원 장악이 이러한 내부 다툼을 종식시킬 것이라고 기업들은 생각하지 않습니다.

제안 내용은 초지능 금지부터 고급 개발 일시 중단까지 다양합니다. 버니 샌더스 상원의원과 그렉 카자 하원의원이 발의한 '인공지능 초지능 금지법(Ban Artificial Superintelligence Act)'도 그 중 하나입니다.

이 법안은 광범위한 작업에서 인간과 동등하거나 이를 능가하는 AI를 금지하고, 새로운 연방 기관이 안전 기준을 마련할 때까지 고급 연구를 중단하도록 합니다. 위반 시 최대 20년의 징역형에 처해질 수 있습니다.

고급 모델에 대한 강제 키 스위치(비활성화 장치)는 양당과 산업계의 일부 지지를 받고 있습니다. 하지만 일부 전문가들은 모든 인공지능 시스템을 실제로 끌 수 있는지 의문을 제기하고 있습니다.

한 민주당 보좌관은 2008년 금융 위기나 코로나19 팬데믹 당시 의회가 긴급 상황에서 신속하게 움직였던 사례를 들며 과거의 선례를 인용했습니다.

앤트로픽(Anthropic)과 오픈AI(OpenAI) 관계자들은 전력 및 수도 공급 차단 해킹을 우려하고 있습니다.

가장 유력한 시나리오는 은행, 인터넷 서비스, 나아가 전력 및 상수도 공급까지 마비시킬 수 있을 만큼 규모가 큰 사이버 공격이다. 안전하지 않은 AI로 인한 첫 번째 실제 피해는 경계심이 강한 대중을 더욱 산업에 적대시하게 만들 것이며, 계획자들은 이를 예상하고 있다.

Anthropic의 CEO 다리오 아모데이, OpenAI의 CEO 샘 알트먼, 그리고 AI 규제를 피해온 도널드 트럼프 전 대통령이 모두 심문 의자에 앉게 될 것이다.

기업들은 또한 이러한 최악의 경우에 대해 레드팀 테스트를 수행하며, 자신의 방어 체계를 공격하여 취약점을 찾아낸다.

워게임은 비즈니스와 국가 안보 분야에서 표준적인 관행이다. 여기에서 많은 수석 연구원들과 임원들은 주요 사고가 필연적이라고 믿고 있다.

“OpenAI는 팀들이 다양한 잠재적 시나리오를 논의하고 대응하는 준비 훈련을 실시합니다.”라고 회사 대변인은 말했다. “이러한 시나리오는 불가피한 것으로 간주되지 않으며, 다양한 상황에 대비하기 위한 것입니다.” Anthropic은 논평을 거부했다.

한국에서는 단 한 명의 공격자가 DeepSeek를 포함한 중국산 AI 모델을 활용해 두 개의 은행을 공격하고 수만 명의 고객 데이터를 탈취한 것으로 알려졌다.

크라우드스트라이크는 공격자가 중국어 화자일 가능성이 높다고 중등도의 확신으로 평가합니다. 보안 기업에 따르면, 공격자는 이어 앤트로픽의 Claude Code에 이를 판매할 곳을 조언해 달라고 요청했습니다.

앤트로픽은 테스트 중 클로드 모델이 공개 인터넷에 접속하여 외부 시스템에 침투한 사례 4건을 공개했다. 해당 연구소는 또한 수만 건의 예상치 못한 모델 동작 사례를 조사 중이다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.