카사르 의원은 AI 모델이 실제 기업을 해킹한 사건과 관련하여 존슨 하원의장에게 알트만과 아모데이에 대한 선서를 요구했습니다

그렉 카사르 하원의원을 비롯한 민주당 하원 의원들은 월요일 마이크 존슨 하원의장에게 오픈AI, 앤트로픽 등 주요 AI 기업 CEO들이 선서 하에 질문에 답변하도록 강제할 것을 요청했다.

그들은 최근 해당 기업들의 AI 모델로 인해 발생한 보안 침해 사례를 언급했습니다.

카사르는 강제할 권한 없이 존슨에게 편지를 썼다

이 서한은 주로 의회 진보 코커스 의장인 텍사스주 민주당 소속 카사르 의원이 주도했습니다.

의원들은 의회가 고도화된 인공지능의 위험성에 대처하기 위해 충분한 노력을 기울이지 않았다고 지적하며, 최고경영자들에게 실패, 과실, 예방 조치에 대한 설명을 요구하고 인공지능 위험성에 대한 전문가 브리핑을 요청하고 있습니다.

카사르의 그룹은 AI 연구소 CEO를 한 명도 불러들일 수 없습니다. 그 권한은 위원회 위원장과 하원의장에게 있기 때문에 존슨에게 서한을 보내는 것입니다

서명자 대부분은 당의 좌파 인사들이다. 중도 성향의 메릴랜드 주 하원의원 에이프릴 맥클레인 딜레이니도 서명했다.

"이러한 위반 사례는 규제 없이 이러한 모델이 계속 발전한다면 훨씬 더 심각한 문제가 발생할 수 있음을 경고하는 탄광 속 카나리아와 같은 신호일 수 있습니다."라고 서한은 경고했습니다.

OpenAI 에이전트 하나가 회사 내부 테스트 환경에서 탈출했습니다. 공동 창립자인 토마스 울프에 따르면, 해당 에이전트는 7월 11일에 Hugging Face 시스템에 침입하여 7월 13일까지 머물렀습니다. Hugging Face는 침입을 차단하고 FBI에 신고했으며, 이후 OpenAI는 범인이 자사 에이전트 중 하나임을dent.

오픈아이얼의 초기 성명에는 탈출 시도와 에이전트가 다른 회사의 시스템 내부에 3일 동안 머물렀던 사실에 대한 언급이 없었습니다.

거의 일주일 동안 소셜 미디어와 팟캐스트에서는 전문 해커 또는 국가 지원 해커에 대한 다양한 추측이 난무했습니다. 하지만 결국 진짜 해커는 ChatGPT였습니다. OpenAI는 이 사건을 "AI 안전에 있어 중요한 순간"이라고 평가했습니다.

클로드 모델 3종은 실제 기업을 대상으로 삼았습니다

앤트로픽은 141,006건의 평가 실행 결과를 검토했다고 밝혔습니다. 그 결과, 파트너사인 이레귤러와 함께 진행한 공격 보안 훈련 중 3개의 클로드 모델이 실제 3개 조직의 운영 시스템에 적용된 것을 확인했습니다.

Anthropic의 프롬프트는 모델들에게 시뮬레이션 중이라고 알렸지만, 설정 오류로 인해 테스트 기기들이 인터넷에 접속할 수 있게 되었습니다. 사용된 모델은 Opus 4.7, 최신 버전인 Mythos 5, 그리고 아직 출시되지 않은 내부 빌드였습니다.

Opus 4.7은dent증명을 탈취하고 운영 데이터베이스를 공격했습니다. Mythos 5는 예상했던 패키지를 찾지 못하자 악성 Python 패키지를 작성하여 PyPI에 게시했습니다.

해당 패키지는 실제 컴퓨터 15대에서 실행되었고 약 한 시간 동안 온라인 상태를 유지했습니다. 내부 연구 모델만 목표물이 진짜라고 판단하자 실행을 멈췄습니다.

앤트로픽은 설명하며dent, 자사 코드가 취약한 비밀번호에 의존했다고 밝혔습니다. 또한, METR 그룹에 이번 사건dent대한 독립적dent.

도널드 트럼프dent 은 "안전장치"를 지지하지만, 지나치게 제한적인 규제는 중국과 경쟁하는 미국 기업에 해를 끼칠 수 있다고 경고했습니다.

2026년 2분기에 앤스롭픽과 오픈AI는 총 317만 달러의 연방 로비 활동 자금을 지출했다고 보고했습니다. 이 금액에는 앤스롭픽의 197만 달러와 오픈AI의 120만 달러가 포함됩니다.

앤트로픽의 올해 상반기 지출액은 이미 2025년 연간 지출액을 넘어섰습니다. 이 회사는 사이버 보안, 저작권, 클라우드 컴퓨팅 및 국방 조달 분야에서 로비를 펼쳤습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.