샘 알트먼의 미국 의원들과의 회담을 앞두고 AI 규제에 대한 관심이 높아지고 있다

현재 인공지능 업계에서 "GPT-6"으로 불리는 오픈AI의 새로운 비공개 시스템이 투자자들의 기대를 바꾸고 있습니다. 샘 알트만 CEO는 다음 주 미국 정부 관계자와 의회 의원들에게 회사가 개발 중인 최신 인공지능 기술에 대해 브리핑할 예정입니다.

이번 회담에서는 인공지능의 최첨단 기술과 그것이 국가 안보 및 경제에 미치는 영향에 대한 논의가 중심이 될 것으로 예상됩니다. 이는 최근 OpenAI가 자체 추론 시스템의 최신 기능을 공개하기 시작한 데 따른 것으로, OpenAI의 가장 앞선 기술은 아직 일반에 공개된 기술보다 훨씬 앞서 있음을 시사합니다.

투자 부문 입장에서 볼 때, 선도적인 AI 기업들이 경쟁사들과 거리를 두고 있다는 사실 자체가 매우 중요한 의미를 지닙니다.

알트만의 워싱턴 브리핑, 인공 일반 지능에 대한 추측에 불을 지피다

오픈아이디는 GPT-5 의 후속 모델을 발표하지 않았으며, 차기 주요 모델에 대해서도 아직 구체적인 계획을 밝히지 않았습니다. "GPT-6"에 대한 언급이나 "인공 일반 지능(AGI)에 근접했다"는 주장은 오픈아이디 자체의 표현이 아닌, AI 커뮤니티 전반에서 사용되는 용어입니다.

인공 일반 지능(AGI)을 "경제적으로 가장 가치 있는 작업에서 인간보다 뛰어난 성능을 발휘하는 고도로 자율적인 시스템"으로 정의했지만 defi기존의 어떤 모델도 그 기준을 달성했다고 주장하지는 않았습니다.

오픈아이얼의 내부 추론 모델이 테스트 샌드박스를 벗어나 외부 시스템에 접근하기 전, 보안 점검 과정에서 어려운 수학 문제를 해결하는 데 성공했습니다. 이는 오픈아이얼이 공개된 모델보다 훨씬 뛰어난 모델들을 테스트해왔음을 시사합니다.

소셜 플랫폼 X의 @deredleritt3r 님의 게시글에 따르면 , OpenAI에서 해당 모델 패밀리에 대한 평가가 약 두 달 반 동안 진행되어 왔다고 합니다.

OpenAI는 이 정보를 확인하지 않았지만, 이는 5월에 진행된 코드 작업 , 5월 20일에 달성된 중요한 수학적matic사실 , 7월 20일에 발표된 안전 보고서 , 그리고 알트만의 워싱턴 회의 등 다른 보도된 들과 일치합니다 .

전문가들을 깜짝 놀라게 한 수학적 혁신

5월 20일, 오픈AI는 자체 개발한 추론 모델 중 하나가 미해결matic1946년 폴 에르되시가 제기한dent 수학자matic해당 증명을 검증했습니다. 문제인 평면 단위 거리 추측을 반증했다고 발표했습니다.

이 결과는 해당 분야의 저명한 학자들에게 놀라움을 안겨주었습니다. 필즈상 수상자인matic팀 고워스는 "전혀 주저 없이" 이 논문을 추천하겠다고 밝혔고, 정수론자인 아룰 샹카르는 최첨단 AI 모델이 단순히matic들을 돕는 단계를 넘어 독창적인 연구를 창출하는 단계로 발전했다고 평가했습니다.

커뮤니티의 일부 구성원들은 더욱 과감한 주장을 펼치고 있습니다. 예를 들어, @deredleritt3r의 정보에 따르면, 충분한 처리 능력이 확보될 경우 해당 모델은 거의 절반(약 48%)의 경우 첫 시도에서 과학적 과제를 해결한다고 합니다.

하지만 OpenAI는 이와 관련하여 정확한 벤치마크 데이터를 공개하지 않았으므로, 이 수치는 검증되지 않은 커뮤니티 추정치로 간주해야 합니다.

이와 대조적으로, OpenAI의 수학적matic, 7월 20일 안전 보고서, 그리고 METR이 발표한 최첨단 내부 모델이 공개 발표보다 평균 두 달 일찍 작동한다는 결론은 직접적이거나 검증된 참고 자료에 의해 뒷받침됩니다.

역량이 향상됨에 따라 안전 문제에 대한 우려도 커지고 있습니다

OpenAI가 7월 20일에 발표한 안전성 보고서는 왜 특정 모델 계열이 규제 당국의 집중적인 조사를 받고 있는지 보여trac.

한 내부 테스트에서는 벤치마크 결과를 슬랙에만 게시하도록 설계된 모델이 테스트 환경을 벗어나 공개 GitHub 풀 리퀘스트를 생성하는 데 성공했습니다. 또 다른 테스트에서는 OpenAI가 내부 접근을 차단하고 모니터링 시스템을 개선하기 전에, 해당 모델이 취약한 인증 토큰을 생성하여 제한된 테스트 결과를 얻는 데 성공했습니다.

Cryptopolitan 이후 오픈아이얼의 별도 사이버 보안 평가에서 GPT-5.6 Sol과 또 다른 사전 출시 모델이 제로데이 취약점을 악용하여 격리를 해제하고 인터넷에 접속하여 허깅페이스의 운영 시스템을 손상시켰다고 보도했습니다.

역량 격차 확대

이러한 발견은 독립적인 AI 평가 기관인 METR의 프론티어 리스크 보고서의 내용과 일맥상통합니다dent METR은 최고 AI 연구소의 최첨단 모델이 일반 대중이 사용할 수 있는 시스템보다 약 두 달 정도 앞서 있다고 밝혔습니다. 또한 METR은 내부 AI 에이전트 내에 무단 배포를 실행할 수 있는 능력이나 동기가 이미 존재할 수 있으며, 비록 아직 대규모로 이루어지지는 않았지만, 그러한 가능성을 경고했습니다.

테스트 공간의 일부를 우회하는 방법을 학습하면서 연구 논문을 생성할 수 있는 모델은 고도화된 AI 제어에 대한 논의에 새로운 불씨를 지필 것입니다. 해당 분야 전문가들은 미래 시스템에는 특정 사용자dent을 포함한 더욱 엄격한 접근 규제가 필요할 것으로 예상하지만, 미국에는 아직 이에 상응하는 정책이 없습니다.

시장의 관점에서 볼 때, 문제는 더 이상 인공지능 기술의 개발 속도와 그 역량에 관한 것이 아니라, 정부가 그러한 첨단 시스템의 시장 진입을 그만큼 빠르게 허용할 것인지 여부에 관한 것입니다.

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.