메타 감독 위원회, 딥페이크 삭제 명령 및 AI 규정 미흡 지적

메타의 감독위원회는 스코틀랜드 노동당 시의원이 난민의 성폭력을 옹호하는 것처럼 보이게 만든 인공지능 생성 영상을 회사가 삭제해야 한다고 판결했습니다. 

해당 회사는 처음에는 딥페이크를 그대로 두기로 결정했지만, 감독 위원회는 그 결정을 뒤집었을 뿐만 아니라 메타의 딥페이크 처리 방식이 사용자들을 기만 위험에 빠뜨린다고 경고했습니다.

메타가 삭제해야 할 조작된 영상은 무엇일까요? 

2025년 11월, 스코틀랜드의 한 지역 노동당 정치인의 얼굴을 도용한 영상이 페이스북에 유포되었습니다. 해당 영상에서 정치인은 "난민들은 우리 여성들을 강간하더라도 환영받습니다. 백인들도 그런 짓을 하니까요."라고 말했습니다

메타의 감독위원회는 해당 영상의 묘사가 사실적이지만 인위적이라고 평가하며, 음성과 얼굴 움직임이 일치하지 않는다고 지적했습니다. 해당 영상은 극우 반대 시위에 참여한 여러 여성들의 사진(해당 시의원 포함)이 담긴 앨범에서 발견되었습니다.

두 사람, 그중 한 명은 시의원 본인이었는데, 메타의 괴롭힘 및 희롱 규정에 따라 해당 영상을 신고했지만, 메타 시스템은 이를 담당자에게 전달하지 않았고, 두 차례의 이의 제기에도 불구하고 영상은 삭제되지 않고 그대로 남아 있었습니다. 

세 번째 사용자가 해당 사안을 위원회에 제기했고, 위원회에서 문제를 제기했음에도 불구하고 메타는 해당 영상이 어떤 규칙도 위반하지 않았으며 AI 라벨을 붙일 필요가 없다고 주장했습니다. 해당 의원은 위원회에 그 영상이 "매우matic"이라고 말했습니다 

심사위원단은 해당 영상이 난민 전체를 심각한 범죄 행위와 성적 착취 행위로 몰아세웠다는 점에서 메타의 혐오 행위 정책을 위반했다고 판단했으며, 일부 난민만을 겨냥했다는 메타의 주장을 받아들이지 않았습니다. 심사위원단은 해당 영상을 삭제 가능한 허위 정보로 분류하지는 않았지만, "고위험 AI" 라벨을 부착했어야 한다고 밝혔습니다.

이사회는 메타에게 유리한 한 가지 점에 대해서는 동의했는데, 그것은 선출직 공무원은 공인으로서 일반 시민보다 보호 수준이 낮기 때문에 괴롭힘 및 희롱 규정이 해임을 요구하지는 않는다는 것이었습니다.

감독위원회는 메타에 대해 어떤 권고사항을 제시합니까?

위원회는 또한 생리 건강 교육을 홍보하는 여성을 인공지능이 조작하여 인터뷰한 두 번째 사례에 대해서도 개입했습니다. 위원회의 개입 이후, 메타는 해당 영상을 괴롭힘을 이유로 삭제했습니다. 

두 건의 판결로 인해 이사회는 메타의 안전장치가 "일관되게 그리고 근본적으로 부적절하다"고 지적했습니다

이사회는 권고했습니다 . 또한 고위험 AI 콘텐츠에 대해서는 수익 창출을 중단하거나, 순위를 낮추거나, 추천 목록에서 삭제하고, 반복 공유자에 대해서는 단계적인 제재를 가할 것을 제안했습니다. 

또한 위원회는 메타가 AI로 의심되는 콘텐츠가 신고될 경우 사람이 검토하도록 우선 순위를 부여하고, 정치인 관련 게시물을 포함하여 AI 라벨을 적용하는 빈도에 대한 연간 데이터를 공개하며, 투표 및 인구 조사 규칙을 미국에만 적용되는 것이 아니라 전 세계적으로 적용되도록 수정할 것을 요구했습니다. 메타는 위원회의 요구에 60일 이내에 답변해야 합니다. 

전 세계 정부와 플랫폼들이 합성 미디어에 대한 규제를 강화하고 있습니다. 예를 들어, 중국 최고인민법원은 9월 7일 타인의 얼굴이나 목소리를 허가 없이 인공지능으로 복제하거나 공유하는 행위를 저작권 침해로 규정하는 책임 규칙을 발표했습니다. Cryptopolitan 보도에 따르면, 베이징은 올해 초 '칭랑(Qinglang)' 정화 작업 1단계에서 1만 4천 개 이상의 인공지능 관련 콘텐츠를 별도로 삭제했습니다. 

유럽 연합의 AI 생성 콘텐츠 투명성 실천 강령은 제공업체가 AI 결과물을 표시하고 배포자가 딥페이크를 분류하도록 의무화하고 있습니다. 

구글 플레이의 AI 생성 콘텐츠 정책은 사용자가 동의 없이 제작된 딥페이크 성적 콘텐츠와 "명백히 기만적이거나 허위인" 선거 관련 콘텐츠를 게시하는 것을 금지합니다.

Medium에서는 소수의 사용자만 AI를 익명으로 사용하여 글을 쓸 수 있으며, 플랫폼은 AI를 이용한 허위 정보 유포를 전면 금지하고 있습니다. 

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.