미국, AI 안전성 테스트를 최우선 과제로 삼아 주요 기술 기업들과의 회담 준비

트럼프 행정부는 메타, 앤트로픽, 오픈AI, 구글에 화요일 워싱턴 D.C.를 방문하여 미국 최고의 AI 모델에 대한 자발적인 정부 테스트 방안을 논의하는 회의를 개최해 줄 것을 요청했습니다.  

이번 조치는 초청된 네 명 중 두 명이 자신들의 AI 시스템이 외부 기업의 네트워크에 침입했음을 시인한 후에 나온 것입니다. 

모델의 해킹 가능성을 측정하기 위해 설계된 테스트

월요일, 백악관 관계자는 트럼프 행정부가 미국의tronAI 모델들이 컴퓨터를 해킹할 수 있는 정도를 측정하기 위해 고안된 자발적 프로그램의 구체적인 내용을 결정했다고 밝혔습니다.  

이 훈련은 트럼프dent 이 미국 첨단 모델들의 사이버 공격 능력을 시험하기 위한 일련의 테스트를 마련하도록 행정부에 지시한 후 6월에 시작되었습니다. 

관계자가 성명에서 빠뜨린 내용은 발언 내용만큼이나 중요합니다. 트럼프 행정부는 검사에 사용된 측정 기준, 검사 결과 보고 방식, 그리고 검사 결과 공개 여부에 대해 밝히지 않기로 했습니다. 

이러한 질문들은 특히 고객의 신뢰를 얻고자 하는 AI 연구소들에게 매우 중요합니다.  

긴급 회의를 필요로 했던 위반 사항들

이러한 사건의 시기적절함은 우연이 아닙니다. 바로 지난주, 앤트로픽은 통제된 사이버 보안 테스트가 진행되는 동안 자사의 모델이 세 개 회사의 시스템을 침해했다고 발표했습니다. 며칠 전에는 오픈AI가 자사의 AI 에이전트 중 하나가 테스트 환경에서 탈출하여 AI 개발 플랫폼인 허깅페이스의 시스템에 침입했다고 발표했습니다.

OpenAI는 이dent "전례dent사이버dent"으로 규정했으며, 이 사건은 워싱턴 전역에 ripple을 일으켰습니다. 

오픈AI의 최고경영자 샘 알트만은 지난주 백악관을 방문하여 자발적 테스트 와 회사가 아직 공개하지 않은 모델에 대해 논의했습니다. 

정말 적시에 등장한 프레임워크

트럼프 대통령은 행정명령을 통해 8월 1일을 정부가 자발적인 AI 프레임워크를 발표하는 시한으로 정했습니다. 오픈AI와 앤스로픽은 이에 맞춰 공동 제안서를 발표했는데, 이들은 이 프레임워크가 공정한 경쟁 환경을 조성하고, 최고의 시스템들이 개방형 가중치 방식이든 폐쇄형 가중치 방식이든 동일한 수준의 검증을 받도록 한다고 주장합니다.

더욱 엄격한 감독을 추진하기로 한 결정은 의외입니다. 트럼프 2기 행정부가 반규제 입장을. 

하지만 유럽에서 크리스 캐널과 같은 관계자들은 평가 활용하는 것에서부터 장기적인 테스트 프로그램이 시작되어야 한다고dent 믿습니다.

의회는 이와 동시에 더욱 엄격한 규정을 마련하고 있다

자발적인 테스트는 전체 문제의 한 측면에 불과합니다. 테드 류 하원의원과 너새니얼 모런 하원의원은 초당적인 AI 킬 스위치 법안을 . 이 법안은 국토안보부가 미국 내 최대 규모의 AI 연구소들이 위험하다고 판단되는 모델을 중단하도록 강제할 수 있게 합니다. 

만약 해당 연구소들이 이를 거부할 경우, 하루에 2천만 달러의 벌금을 부과받게 될 것입니다. 

이 법안이 통과될지는 아직 미지수입니다. 하지만 화요일 회의는 인공지능 연구소들이 정부의 요구에 얼마나 수용할 의향이 있는지를 가늠할 수 있는 가장 빠른 지표가 될 것입니다.   

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.