인도 정부는 기술 플랫폼 업체들에게 모든 AI 콘텐츠에 라벨을 붙이고 딥페이크를 3시간 이내에 제거하도록 9일의 유예 기간을 부여했습니다

인도 가 보이는 도전을 내놓았습니다 . 2월 20일부터 인도 내 소셜 미디어 기업들은 모든 가짜 AI 콘텐츠에 라벨을 붙이고 삭제 이를 수행 할 수 있는 기술은 아직 존재하지 않습니다 .

에 발표된 이 규정은 메타, 구글, X와 같은 플랫폼들이 사용자가 보기 전에 AI가 생성한 이미지, 비디오, 오디오를 감지 사용자가 이러한 라벨을 제거하거나 숨기는 것을 막아야 합니다. 수십억 달러 의 자원을 보유하고 있음에도 불구하고, 이러한 거대 기술 기업들은 현재의 탐지 도구를 안정적으로 작동시키는 데 어려움을 겪고 있습니다.

대부분의 대형 플랫폼은 이미 C2PA라는 기술을 사용하고 있는데, 이는 파일 내부에 보이지 않는 정보를 심어 제작 입니다. 마치 디지털 콘텐츠의 영양 성분표와 같습니다. 이 기술이 제대로 작동하면 사진이 실제 카메라로 촬영된 것인지 AI 생성기로 만들어진 것인지 확인할 수 있습니다. 페이스북, 인스타그램, 유튜브, 링크드인은 이러한 콘텐츠에 표시를 하려고 노력 표시가 잘 보이지 않아 콘텐츠가 많이 걸러지지 않고 있습니다.

이 시스템에는 심각한 허점이 가짜 누드 사진을 만드는 오픈 소스 AI 도구와 앱은 라벨링 과정을 완전히 건너뛰는 . 라벨이 있더라도 많은 사이트에서 파일 업로드 중에 사라지는 경우 가 이 수년간 주장해 왔습니다 이 시험하려 하고 있습니다 .

인도의 시장 지배력이 모든 것을 바꾸는 이유

인도에는 인스타그램 사용자 4억 8천1백만 명, 페이스북 사용자 4억 3백만 명, 유튜브 시청자 5억 명, 스냅챗 사용자 2억 1천3백만 명이 있습니다. X는 인도를 세 번째로 큰 시장으로 보고 있습니다. 이처럼 거대한 국가 에서 새로운 규정을 만들면 글로벌 기술 기업들은 일반적으로 한 곳만이 아니라 모든 곳에서 시스템을 조정합니다.

이번 조치는 인도가 수개월 동안 딥페이크 위기 . Cryptopolitan 은 지난해 10월 발리우드 배우 아비셰크 바찬과 아이슈와리아 라이 바찬 부부가 자신들의 얼굴을 도용한 가짜 영상에 대해 소송을 제기하고 약 50만 달러의 손해배상을 청구했다고 보도했습니다. 부부는 유튜브의 AI 학습 도구가 허가 없이 공개된 콘텐츠를 가져와 시스템을 학습시킨 후, 자신들의 이미지를 이용해 가짜 영상을 제작했다고 주장했습니다 . 이러한 사례 들과 배우 라슈미카 만단나의 가짜 영상 유포 사건 등 이 관계자들의 조치 촉발했습니다 .

이 시기는 맞물립니다 . 구글은 비사카파트남에 150억 달러 규모의 AI 허브를 건설 중이며, 이는 미국 외 지역에서 구글 최대 규모의 시설이 될 것입니다. 기가와트급 컴퓨팅 파워를 갖춘 이 시설은 2028년 7월 개장 예정입니다. 이처럼 막대한 AI 인프라가 구축됨에 따라 규제 당국은 콘텐츠 안전 규정을 우선적으로 마련하고자 합니다.

비평가들은 "급속한 검열"을 경고하고 있다

촉박한 기한은 표현의 자유 옹호자들에게 우려를 불러일으킵니다. 인터넷 자유 재단(Internet Freedom Foundation)은 3 시간이라는 삭제 기한 때문에 기업들이 자동화 시스템을 사용하게 되고, 이로 인해 실수로 너무 많은 콘텐츠를 삭제하게 될 것이라고 주장합니다. 재단은 이를 "속사포 검열"이라고 부르는데, 사람이 보고서를 제대로 검토할 시간이 없기 때문 입니다 .

X와 같이 하지 않은 이제 9일 안에 전체 시스템을 처음부터 구축해야 합니다. 메타, 구글, 그리고 X는 모두 논평을 거부했습니다. C2PA를 개발한 어도비 역시 침묵을 지켰습니다 .

규정을 작성하는 관계자들은 현재 기술로는 않았다는 것을 알고 있는 . 규정에는 플랫폼이 "기술적으로 가능한 범위 내에서" 탐지 방법을 사용해야 한다고 명시되어 있는데 하지 않는다는 . 인도의 지도자들은 압력이 혁신을 촉진할 것이라고 믿고 있습니다 . 기술 기업들이 더 나은 시스템을 구축하거나 수억 명의 사용자에 대한 접근 권한을 잃도록 강요하면, 기업들이 빠르게 해결책을 찾아낼 것이라고 .

더 나은 인공지능 탐지 기술이 실제로 개발 가능한 것인지, 아니면 인도가 아직 만들 수 없는 것을 기업에 주문한 것인지는 두고 봐야 할 일입니다. 9일 후면 알게 되겠죠

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요 .