스페인, 인공지능 기반 아동 학대 콘텐츠 의혹 관련 X, Meta, TikTok 조사 착수

스페인 정부는 X, Meta, TikTok의 AI 모델이 아동 성착취물 제작 및 유포에 일조했다는 주장을 제기하며 법적 조치를 시작했습니다.

스페인 페드로 산체스 총리는 화요일에 내각이 검찰청 조직법 제8조를 발동할 것이라고 밝혔습니다. 그는 다음과 같이 썼습니다

"오늘 각료회의는 검찰청 조직법 제8조를 근거로 X, Meta, TikTok이 인공지능을 이용해 아동 음란물을 제작 및 유포함으로써 저지르고 있을 가능성이 있는 범죄에 대해 수사를 요청할 것입니다."

페도르는 또한 “이러한 플랫폼들은 우리 젊은이들의 정신 건강, 존엄성, 그리고 권리를 공격하고 있습니다. 국가는 이를 용납할 수 없습니다. 거대 기업들의 면책은 반드시 끝나야 합니다.”라고 덧붙였습니다

이번 법적 요청이 있기 2주 전, 페드로는 스페인 내 온라인 학대 문제를 해결하기 위한 새로운 계획을 발표하며 16세 미만 청소년의 소셜 미디어 접속을 차단하겠다고 공언했습니다.

지난 11월, 페드로 총리는 스페인 의회가 페이스북과 인스타그램 사용자에게 영향을 미치는 개인정보 침해 가능성에 대해 메타를 조사할 것이라고 밝혔습니다.

영국에 본부를 둔 인터넷 감시 재단(Internet Watch Foundation)의 데이터는 이 문제가 얼마나 빠르게 확산되고 있는지를 보여줍니다. 작년에 이 재단은 인공지능이 생성한 아동 성학대 영상 3,440개를 적발했는데, 그 전해에는 단 13개에 불과했습니다.

유럽은 주요 기술 기업에 대한 규제를 지속적으로 강화하고 있습니다

스페인의 이번 조치는 유럽 정부와 미국의 대형 기술 기업들 간의 긴장을 더욱 고조시키고 있습니다. 이들 기업은 2024년에 당선되어 2026년까지 재임하는 도널드 트럼프 미국dent 행정부의 지원을 받고 있습니다.

유럽 지도자들은 플랫폼이 사용자를 보호해야 한다고 주장합니다. 반면 미국 정치인들과 기술 기업 경영진들은 엄격한 규제가 표현의 자유를 제한할 위험이 있다고 주장합니다. 이러한 의견 차이는 현재 법원과 규제 기관에서 표출되고 있습니다.

지난 12월, 유럽연합은 디지털 서비스법 위반으로 X사에 1억 2천만 유로(약 1억 4천만 달러)의 벌금을 부과했습니다. 이는 해당 법에 따라 부과된 첫 번째 벌금이었습니다. 이달 초, 프랑스 경찰은 아동 포르노 유포 및 홀로코스트 부정론 확산과 관련된 사이버 범죄 수사의 일환으로 X사의 현지 사무실을 압수수색했습니다.

아일랜드 데이터 보호 위원회도 이번 사건에 개입했습니다. 유럽 연합의 일반 데이터 보호 규정(GDPR)을 시행하는 이 규제 기관은 월요일 늦게 Grok이 제작하고 게시한 "잠재적으로 유해한" 성적 이미지에 대해 공식 조사를 시작했다고 밝혔습니다.

우려되는 점은 이러한 이미지들이 EU 사용자들의 개인 데이터 처리와 관련되었을 가능성이 있다는 것입니다.

Grok은 X 플랫폼의 소셜 미디어 피드에 직접 통합되어 있습니다. 이 서비스는 일론 머스크의 AI 회사인 xAI에서 개발했으며, xAI는 작년에 X 플랫폼을 인수했습니다. 이달 초, xAI는 머스크의 로켓 회사인 SpaceX와 합병하여 1조 5천억 달러 규모의 통합 그룹을 탄생시켰습니다.

아일랜드의 이번 조사는 전 세계 규제 당국이 X사에 대해 취한 가장 최근의 조치입니다. 1월 초, Grok을 이용해 여성의 성적 대상화된 딥페이크 이미지 수천 장이 생성되었고, 이 이미지들은 온라인에서 빠르게 확산되었습니다. 이에 대한 반발은 즉각적이었습니다. 사용자, 온라인 안전 전문가, 그리고 정치인 모두tron하게 반응했습니다.

아일랜드 규제기관의 부국장인 그레이엄 도일은 언론 보도가 처음 나온 지 몇 주 만에 해당 기관이 이미 X 측과 접촉했다고 밝혔습니다. 그는 해당 보도에서 사용자들이 X의 @Grok 계정을 통해 아동을 포함한 실제 인물의 성적인 이미지를 생성할 수 있다는 불만이 제기되었다고 말했습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다 .