AI 통제 불가 모델 공개 자제하라… 카니슈카 나라얀 경고

영국의 인공지능 담당 장관 카니슈카 나라얀은 월요일 최전선 AI 연구소들에게 자신이 적절히 통제할 수 없는 위험을 가진 시스템은 출시해서는 안 된다고 말했습니다.

그는 AI 보안 연구소가 Google의 Gemini 4 Argon을 포함한 최신 모델들을 테스트 중이라고 말했다.

두 개의 정부 시범 프로그램에서 1,000개 이상의 취약점이 보완됨

나라얀은 임페리얼 칼리지 런던에서 연설했습니다. “과학자들이 심각한 위험을 경고할 때 경청하십시오. 예상치 못한 행동을 조사하십시오. 그리고 위험을 적절히 통제할 수 없다면 시스템을 출시하지 마십시오,”라고 말했습니다.

그는 올해 호주에서 발생한 이전 사건을 언급했다. 의약품에 대한 공공 지출을 조사하던 OpenAI 에이전트가 정부 웹사이트의 접근 제한에 부딪힌 후, 다른 경로를 통해 진입했다.

그는 권한이 없는 정보에 접근했다. 호주의 정부는 개인 의료 기록이 접근된 사례는 없다고 밝혔다.

“우리의 사이버 방어 체계가 침해될 가능성이 높으며, 어쩌면 피할 수 없을 것”이라고 나라얀은 말했다.

AI 기반 공격을 포함한 사이버 공격에 대응하기 위한 범정부 프로그램은 단 자비스(Dan Jarvis) 보안 장관이 이끌게 된다.

나라얀은 두 개의 정부 시범 프로그램에서 최첨단 AI를 활용해 공공 서비스 내 천 개 이상의 취약점을 식별하고 해결했다고 밝혔다. 중앙 모니터링 서비스는 알려진 결함을 패치하는 시간을 50일에서 8일로 줄였다.

장관들은 의회와 협력하여 사이버 보안 및 복원력 법안을 추진하며, 심각한 AI 사고 및 미발생 사고 보고를 포함한다. 관료들은 또한 에이전트형 AI 사고 관리 방법을 수립하고 관련 피해자를 지원할 예정이다.

보안 연구소 테스트러들이 이제 Google의 Gemini 4 아르곤을 평가합니다

최근 몇 주 동안 영국은 미국 정부 및 관련 기업들과 협력하여 Narayan이 언급한 바와 같이, 가장 강력한 모델들에 대한 사전 출시 접근성을 연구소에 유지해 왔습니다.

“저는 AI 보안 연구소의 AI 과학자들이 최신 세대의 모델들, 특히 Gemini 4 Argon을 포함한 모델들을 엄격하게 평가하고 있으며, 이는 위험을 조기에 식별하고, 견고한 안전 장치를 테스트하며, 사람들을 안전하게 보호하는 데 도움이 되기 위함입니다.”라고 그는 말했습니다.

개발자들은 배포 전에 자발적인 합의를 통해 모델을 연구소에 제공합니다.

백악관은 지난달 OpenAI와 Anthropic에 영국 테스트러들을 위한 새로운 모델 출시를 미루도록 요청했습니다. 텔레그래프는 Narayan이 로비를 펼쳤고, 이에 따라 미국의 입장이 변경되었다고 보도했습니다.

장관들은 연구소가 더 광범위한 접근 권한을 상실했다는 사실을 결코 확인하지 않았습니다. “당신이 타인의 기술에 의존할 때는 어떤 결과의 영속성에 대해 냉철하게 인식해야 합니다. 하지만 우리가 나눈 대화의 결과로 최신 세대의 모델들을 테스트할 수 있을 것이라고 저는 매우 확신합니다,”라고 나라얀 말했습니다.

크립토폴리탄은 9월 앤트로픽이 클로드 미토스 5.1 모델을 출시 전까지 연구소에 제공하지 않았다고 보도했습니다. 이미 2026년 5월 백악관은 가장 강력한 모델들의 출시 전 검토를 고려하고 있었습니다.

영국은 내년 G20 의장국을 맡게 되며, AI가 주요 쟁점이 될 것이라고 Narayan이 밝혔습니다. 그는 정부가 월요일 오후 기술 표준에 대한 첫 번째 검토안을 발표할 예정이며, 이 과정에서 연구소가 중요한 역할을 할 것이라고 덧붙였습니다.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.