애리조나주 여성들이 도난당한 소셜 미디어 사진으로 만든 AI 딥페이크 영상에 대해 소송을 제기했습니다

애리조나주에 사는 세 여성이 여러 개인과 회사를 상대로 소송을 제기했습니다. 이들은 자신들의 소셜 미디어 페이지에서 사진이 도용되어 인공지능(AI) 모델에 입력되어 딥페이크 이미지로 만들어졌다고 주장했습니다. 또한, 피고인들이 해당 모델을 이용해 자신들의 노출 사진을 제작하고 이를 통해 이익을 취했다고 밝혔습니다.

애리조나주 마리코파 카운티 고등법원에 제기된 소송은 여성들을 AI 모델로 광고하며 돈을 벌 수 있도록 여러 영상을 게시한 인스타그램 계정을 대상으로 합니다. 사생활 보호를 위해 신원이 공개되지 않은 원고들은 AI로 생성된 이미지 사전 동의 없이 자신들의 소셜 미디어 사진을 사용했다고 주장했습니다. 피해자 중 한 명은 유포된 이미지 때문에 사람들이 자신을 불편한 시선으로 바라보는 것에 대해 불만을 토로했습니다.

애리조나 여성들이 AI 생성 콘텐츠 관련 소송을 제기했습니다

소송은 애리조나주 마리코파 카운티에 거주하는 세 명의 피고인을 대상으로 하며, 그중에는 인스타그램 계정 소유자인 보 슐츠도 포함되어 있습니다. 또한, 소송에는 신원이 밝혀지지 않은 50명의 피고인과 해당 사업 운영에 이용되었거나 설립된 것으로 추정되는 여러 회사도 피고로 지목되었습니다. 원고 측은 돈론 그룹의 닉 브랜드 변호사와 페레 로펌의 크리스티나 페레즈 헤사노 변호사가 대리하고 있습니다.

브랜든 검사에 따르면, 피고인들은 애리조나 출신으로 추정되며, 다른 남성과 소년들에게 옷을 입은 이미지를 나체로 바꾸는 이른바 'AI 인플루언서' 제작 방법을 가르치는 설계도를 만들었다고 합니다. 그는 또한 피고인들이 이렇게 생성된 딥페이크 이미지를 이용해 구독 기반의 음란 웹사이트를 운영하고, 고객들과 성적인 메시지를 주고받는다고 덧붙였습니다. 브랜든 검사는 이 문제가 자신이 사건을 맡기 전 생각했던 것보다 훨씬 더 심각해 보인다고 지적했습니다.

애리조나 소송에서 피고들은 고객들에게 유명 인플루언서를 이용하지 말고 마이크로 인플루언서를 이용하면 법적 문제 발생 위험을 줄일 수 있다고 안내했습니다. 브랜든은 "기술이 발전하는 와중에도 여성들이 겪고 있는 고통에 대해 제가 얼마나 순진했는지 믿을 수가 없어요." 라고 말했습니다 . 피해자 중 한 명은 이러한 폐해를 막고 더 많은 여성이 비슷한 사기 행각의 표적이 되는 것을 방지하려면 엄격한 법률 제정만이 유일한 해결책이라고 주장했습니다.

결제 플랫폼 측은 혐의를 부인했습니다

또 다른 피해자는 인공지능이 이처럼 큰 피해를 입히는 데 사용되어서는 안 된다고 언급하며, 인공지능 사용자들이 누군가의 자매, 어머니, 친구, 직장 동료를 표적으로 삼고 있다고 지적했습니다. 한편, 소송에 이름이 오른 회사 중 하나인 결제 처리 플랫폼 업체 파이지로(Phyziro)는 해당 혐의가 실질적으로 허위라고 주장했습니다. 파이지로는 자사가 미국 연방 법률 제47조 230항에 따른 대화형 컴퓨터 서비스 제공업체라고 밝혔습니다.

"당사는 제3자 사용자 또는 자율 에이전트가 생성한 콘텐츠나 거래의 게시자, 발언자 또는 저자로 간주되지 않습니다. 또한 당사는 사용자 또는 사용자들의 특정 의도나 불법 활동을 감시할 의무가 없습니다. 회원사와 관리자는 AI 에이전트, 사용자 또는 사용자들의 사용자가 관리자의 직접적인 감시 범위 또는 프로그래밍 범위를 벗어나 행동하는 '비대칭적 지식' 사건에 대해 책임을 지지 않습니다."

해당 회사는 중립적인 도구와 인프라 제공업체일 뿐이며, 책임은 스택의 기술적 작동 가능성에만 국한된다고 강조했습니다. 또한 성명에서 통신품위법 제230조가 자사의 책임을 면제한다고 밝혔습니다. 그러나 현재 의회에서는 플랫폼이 웹사이트에 게시되거나 웹사이트와 연결된 콘텐츠에 대해 책임을 지도록 하는 해당 법률을 폐지하려는 초당적 움직임이 있습니다.

비판을 받고 있는 시점에 나왔습니다 . 각국 정부는 그록 플랫폼이 챗봇의 활동을 제대로 감시할 안전장치를 마련하지 않아 여성과 아동의 노출 이미지를 인공지능으로 합성한 딥페이크를 제작하게 되었다고 비난했습니다. 일부 국가는 해당 플랫폼에 경고를 발령했고, 다른 국가들은 문제 해결 작업이 완료될 때까지 일시적으로 접속을 차단했습니다.

가장 똑똑한 암호화폐 전문가들이 이미 저희 뉴스레터를 읽었습니다. 참여하고 싶으신가요? 함께하세요 .