한국 규제 당국, xAI 챗봇 그록에 대한 규제 조사 착수

한국 정부가 일론 머스크 소유의 xAI가 개발한 인공지능(AI) 챗봇 '그록'에 대한 규제 조치를 검토하고 있다. 이는 그록이 성적으로 착취적인 딥페이크 이미지를 생성 및 유포하는 데 관여했다는 여러 비판에 따른 것이다.

지역 뉴스 매체인 일렉트로닉 tron 가 여러 개인이 제기한 의혹 에 대한 예비 사실 조사에 착수했다고 보도했습니다

예비 절차는 정식 조사가 시작되기 전에 위반 행위가 실제로 발생했는지, 그리고 해당 사안이 관할권 내에 있는지 여부를 확인하는 것입니다.

한국 정부는 그록에 대한 검토를 실시할 예정이다

보도 에 따르면 Grok이 노골적이고 동의 없는 딥페이크 이미지를 제작하는 데 사용되었다는 국내외 여러 보고서에 따른 것으로

보도에 따르면, PICP는 그록이 제공한 설명과 기타 관련 문서를 검토한 후 향후 조치를 결정할 예정입니다. 또한, PICP는 글로벌 규제 동향을 분석하여 향후 결정에 참고할 것으로 예상됩니다.

개인정보보호법에 따라,dent가능한 개인의 성적 이미지를 동의 없이 변경하거나 생성하는 행위는 개인정보의 불법적인 취급에 해당할 수 있습니다.

소셜 플랫폼 X에 통합되어 텍스트 및 이미지 생성 기능을 제공하는 AI 챗봇이 작년부터 실제 인물의 가짜 이미지를 만들어내는 문제로 여러 차례 비판을 받아왔습니다. 이 챗봇은 온갖 종류의 부적절한 이미지를 생성하는 데 사용되어 대중의 반감을 사고 있습니다.

국제 비정부기구인 디지털 혐오 대응 센터(Center for Countering Digital Hate)에 따르면, Grok은 2025년 12월 29일부터 2026년 1월 8일 사이에 300만 개 이상의 성적으로 노골적인 이미지를 생성하는 데 사용된 것으로 추정됩니다.

해당 단체는 그중 23,000개 이상이 챗봇을 이용해 생성된 미성년자 이미지라고 주장했습니다. 센터는 그록의 AI 생성 이미지가 빠르게 확산되면서 온라인상에서 음란물이 대규모로 유포되고 있다고 경고했습니다.

규제 당국은 이러한 위협을 억제하기 위해 취해진 조치에 대한 보고서를 요구하고 있습니다

해당 센터는 또한 이 개발이 어린이들에게 심각한 안전 위험을 초래할 수 있다고 경고했습니다. 이러한 위협 때문에 미국, 영국, 프랑스, 캐나다 등 여러 국가에서 조사에 착수 , 인도네시아, 필리핀, 말레이시아 등은 Grok 접속을 차단했습니다.

논란에 대응하여 xAI는 올해 초 이를 방지하기 위한 특정 기술적 조치를 시행했다고 발표했습니다.

해당 플랫폼은 무료 및 유료 사용자 모두 실제 인물의 이미지를 편집하거나 생성하는 것을 차단했다고 밝혔으며, 조만간 추가적인 안전 조치를 발표할 예정이라고 덧붙였습니다.

한국에서는 방송통신위원회(KMCC)가 1월 14일 X사에tron보호 강화 대책을 요구했다. 방송통신위원회는 해당 소셜 미디어 플랫폼에 인공지능(AI) 개발사인 X사가 불법적이거나 유해한 콘텐츠 생성을 막기 위한 방안을 마련해야 한다고 밝혔다.

또한 규제 당국은 해당 회사가 미성년자의 그러한 콘텐츠 접근을 제한해야 한다고 덧붙였습니다.

현재 X는 법에 따라 한국에서 청소년 보호 담당자를 지정하고 관련 법규 준수에 대한 연례 보고서를 제출하고 있습니다. 한국범죄수사위원회(KMCC)는 미성년자를 포함한 동의 없는 성적 이미지를 플랫폼에서 제작 및 유포하는 것은 한국에서 형사 범죄임을 지적하며, Grok의 안전 프로토콜에 관한 추가 자료 제출을 촉구했습니다.

위원회는 2주 이내에 답변을 제출하도록 요구했습니다. 만약 X사가 답변을 하지 않거나 요구를 무시할 경우, 최대 1천만 원(약 6,870달러)의 행정과태료가 부과될 수 있습니다. 이와 유사한 조치는 다른 국가에서도 시행되었으며, 해당 국가들에서도 xAI에 이러한 위협의 확산을 억제하기 위한 대책 마련을 맡겼습니다.

한국과 마찬가지로, 이들 국가들도 기업이 해당 위협의 증가를 제한하기 위해 취한 조치를 보여주는 보고서를 작성하여 제출하지 않을 경우 상당한 벌금을 부과할 것이라고 발표했습니다.

암호화폐 업계의 최고 전문가들 앞에 당신의 프로젝트를 소개하고 싶으신가요? 데이터가 영향력을 발휘하는 다음 업계 보고서에 당신의 프로젝트를 소개하세요.