분석-머스크, 그로크 딥페이크로 타격 입었지만 규제 싸움은 끝나지 않았다

Supantha MukherjeeㆍPaul Sandle

스톡홀름/런던, 1월15일 (로이터) - 일론 머스크의 Grok 챗봇은 규제 당국이 머스크의 xAI가 성적 이미지 제작을 억제하도록 강제함으로써 드문 승리를 거둔 후에도 딥페이크와 온라인 이미지의 디지털 탈의를 단속하려는 유럽의 역량을 시험하고 있다.

xAI는 수요일 늦게 (link) 챗봇이 여성과 미성년자의 성적인 이미지 수천 장을 만들어내 글로벌 규제 당국에 경종을 울리자 Grok AI 사용자의 이미지 편집을 제한했다고 밝혔다.

처음에는 이러한 추세를 비웃었던 머스크의 이번 조치는 노골적인 콘텐츠를 저렴하고 쉽게 제작할 수 있는 AI 도구를 단속하는 것이 얼마나 어려운 일인지 잘 보여준다. 유럽과 머스크 간의 최근 충돌은 선거 개입 (link), 콘텐츠 규제 및 언론의 자유 (link) 에 이은 것이다.

많은 규제 당국은 여전히 누드 노출의 정의, 동의의 정의, 사용자 또는 플랫폼 중 누가 책임을 지는지에 대한 의문점과 함께 AI를 규율할 법과 규칙을 개발하기 위해 분주히 움직이고 있다.

스톡홀름에 위치한 만하임 스와틀링의 데이터 보호 및 개인정보 보호 변호사인 앙라 판델은 로이터와의 인터뷰에서 "누드 이미지 제작과 관련해서는 정말 회색 지대"라고 말했다.

이 문제에 대해 가장 목소리를 높인 영국 규제 기관 중 하나인 오프콤은 머스크의 움직임을 환영했지만, 그로크 이미지에 대한 xAI 조사는 계속될 것이라고 말했다.

대변인은 "공식적인 조사는 계속 진행 중"이라고 말했다. "우리는 이 문제를 진전시키고 무엇이 잘못되었고 이를 해결하기 위해 무엇을 하고 있는지에 대한 답을 얻기 위해 24시간 내내 노력하고 있다."

여전히 가장 강력한 단속이 필요하다고 관계자들은 말한다

이달 초, Grok은 작은 비키니를 입은 것처럼 보이도록 조작된 여성들의 초현실적인 이미지(link)를 X에서 제작해 모욕적인 포즈를 취하거나 심지어 멍으로 뒤덮인 것처럼 보이게 했다. 일부 미성년자는 디지털 방식으로 옷을 벗겨 수영복을 입히기도 했다.

로이터 통신은 수요일까지도 이 챗봇이 요청에 따라 성적인 이미지를 비공개로 제작하는 것을 발견했다. 목요일에 적어도 특정 지역에서는 이러한 현상이 억제된 것으로 보인다.

머스크의 xAI는 사용자 (link) 가 "불법적인 관할권"에서 노출이 심한 복장을 한 사람들의 이미지를 생성하는 것을 차단하고 있다고 밝혔다. 해당 관할권이 어디인지는 밝히지 않았다.

말레이시아와 인도네시아 정부는 Grok (link) 에 대해 임시 금지 조치를 내렸고, EU와 영국 규제 당국은 해당 이미지를 불법으로 규정했다. 영국, 프랑스, 이탈리아는 조사(link)를 시작했지만 더 강력한 조치를 취해야 한다는 요구에 직면했다.

"여성과 아동을 성적 대상화하거나 나체화하는 앱과 플랫폼을 막기 위해 디지털 서비스법 (DSA) 에 따른 강력한 집행이 필요하다."라고 기독교 민주당 의원인 니나 카베리는 최근의 조치 (link) 를 "긍정적인 조치"라고 말했다.

유럽연합 집행위원회 대변인은 Grok의 변경이 효과적이지 않더라도 집행위원회는 해당 플랫폼에 대해 유럽연합 DSA의 전체 집행 도구 상자를 사용할 것이라고 말했다.

법적 회색 지대, 피해자의 과중한 부담

영국의 온라인 안전법은 AI로 생성된 딥페이크 등 동의 없이 사적인 이미지를 공유하는 행위를 '우선적 범죄'로 규정하고 있다고 영국 시몬스 앤 시몬스의 데이터 보호 변호사 알렉산더 브라운은 말한다.

"즉, X는 이러한 콘텐츠가 플랫폼에 표시되지 않도록 사전 예방적이고 비례적인 조치를 취하고, 발견 시 신속하게 삭제해야 한다."라고 그는 말했다.

영국 규제 당국은 규정 위반이 가장 심각한 경우 해당 기업에 매출의 최대 10%까지 벌금을 부과하거나 법원에 인터넷 서비스 제공업체에 사이트 차단을 요청할 수 있다.

만하이머 스와틀링의 앤더스 버그스텐 변호사는 피해자가 받는 정신적 피해를 언급하며 개인이 플랫폼을 법정에 제소하는 것은 "정말 어렵고 힘든 과정"이라고 말했다.

딥페이크는 인공지능 앱이 등장하기 훨씬 이전부터 존재해 왔지만 (link), 주로 웹의 어두운 구석에 국한되어 있었다. X의 퍼블리싱 파워는 그로크에게 전례 없는 도달 범위를 제공한다.

사이버 괴롭힘 피해자를 위해 일하는 미국의 변호사 캐리 골드버그는 "마찰 없는 퍼블리싱 기능 덕분에 딥페이크가 대규모로 확산될 수 있었다."라고 말했다.

영국과 스웨덴의 법률은 합의되지 않은 누드 이미지 공유를 불법으로 규정하고 있다. 영국은 이러한 이미지의 제작까지 포함하도록 법을 확대하고 있다.

DSA에 따르면 서비스 중단은 최후의 수단으로 간주된다. (link) EU 인공지능법에는 성인 누드 이미지에 대한 규정은 없고 딥페이크에 대한 투명성 의무만 있다고 전문가들은 말했다.

키어 스타머 영국 총리는 목요일에 X의 움직임을 환영했지만 다음과 같이 경고했다: "언론의 자유는 동의를 위반할 수 있는 자유가 아니다. 젊은 여성의 이미지는 공공의 재산이 아니며, 그들의 안전은 논쟁의 대상이 될 수 없다."

"기존 법률을 더 강화해야 한다면 그렇게 할 준비가 되어 있다."