아이오와주, 오픈AI에 AI 고도화 테스트 중단 소송 제기…모니터링 승인 전까지 금지 요구

아이오와주 법무장관 브레나 버드는 주 법원에 수요일 제3자 모니터링 기관이 테스트가 안전함을 확인할 때까지 오픈AI가 고급 AI 모델을 계속 테스트하는 것을 중단하도록 금지해 달라고 요청했습니다.

이 요청은 챗GPT 제작사를 상대로 아이오와주가 주의 소비자 사기 법에 따라 제기한 소송의 일부입니다.

버드는 소비자 사기 법 위반 건당 최대 40,000 달러를 청구합니다

폴크 카운티 아이오와주 지방법원에 제출된 청원서는 8개의 오픈AI 엔티티를 피고로 지정하고, 법원이 “적절한 안전 장치가 구현되어 테스트가 대중에게 위험을 초래하지 않는다는 것이 보장될 때까지” 그리고 “제3자 모니터링 기관이 이를 검증할 때까지” 테스트를 동결해 줄 것을 요청합니다.

아이오와주는 또한 모든 아이오와 주민들의 사전 판결 데이터를 오픈AI가 삭제하고 파기하기를 원합니다. 청구된 벌금은 소비자 사기 법 위반 건당 최대 4만 달러이며, 노인 대상 위반 건당 추가 벌금으로 최대 5,000달러를 요구합니다.

청원은 OpenAI가 연령 확인과 명시적·정보에 기반한 동의 없이 아이오와 주민들의 개인정보를 수집하고 판매하는 것을 금지하며, 아이오와 주 고객들에 대한 환불, 총수입 몰수, 법원이 필요하다고 판단하는 추가 안전 조치 등을 요구합니다.

캔자스주의 크리스 코브악, 네브래스카주의 마이크 힐저스, 웨스트버지니아주의 JB 맥커스키 주 검찰총세들이 데모인에서 열린 기자회견에 Bird와 함께 참석했다. 아칸소, 애리조나, Idaho, 몬태나는 모두 각 주 법원에서 OpenAI를 고소했다. Cryptopolitan에 따르면, 플로리다주가 6월에 OpenAI를 고소한 것이 첫 사례였다.

“OpenAI는 아이들을 해치고 있으며 아이오와 주민들에게 거짓말을 하고 있습니다.”라고 Bird는 말했습니다. 미국 채팅봇 시장의 절반 가까이를 차지하는 ChatGPT는 지나치게 순종적이고 인간의 동정심을 모방하도록 설계되었다고 그녀의 사무소는 밝혔습니다.

회사의 대변인 Drew Pusateri는 OpenAI가 ChatGPT에 “업계 최고 수준의 연령별 보호 장치”를 구축했다고 말했습니다. 이 도구에는 부모 통제 기능, 휴식 알림 및 연령에 적합한 모델 보호 기능이 포함되어 있습니다.

청원은 10 중 rogue AI 사건 중 7건을 ChatGPT 제작사에 귀속시킵니다

또 다른 항목은 OpenAI가 자체적으로 작동할 수 있는 AI 에이전트를 어떻게 테스트해 왔는지 살펴봅니다. 청원에 따르면 OpenAI는 2026년 5월부터 8월까지 발생한 10건의 ‘rogue AI’ 사건 중 7건에 책임이 있었습니다. 여기에는 내부 테스트 중 발생한 모든 5건의 침해 사고가 포함됩니다.

가장 잘 알려진 사건은 7월에 발생했다. ExploitGym이라는 사이버 벤치마크 동안 에이전트가 샌드박스에서 탈출하여 Hugging Face를 해킹했다. California가 OpenAI에 소환장을 발부했을 때 Cryptopolitan이 이 사건을 보도했다.

청원에 따르면 1,200명 이상의 에이전트가 ‘집단’으로 활동하며 Hugging Face 서버에서 17,000건의 작업을 수행했습니다. GPT-5.6 Sol은 사용된 모델 중 하나였습니다.

법원 제출 서류에 따르면 FBI가 통보한 이후에야 OpenAI가 해당 활동을 인지했다고 합니다.

Bird의 사무실은 OpenAI가 자체 고급 모델이 '통제를 벗어났다'고 인정했다고 밝혔다. 또한 청원서에는 오픈AI 수석 과학자 Jakub Pachocki가 작성한

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.