네팔 정치인들을 흉내 낸 가짜 AI 영상이 조기 총선을 앞두고 허위 정보 유포 우려를 불러일으키고 있다

오는 3월 5일로 예정된 조기 총선을 앞두고, 네팔의 주요 정치인 3명이 등장하는 가짜 영화가 인공지능(AI)이 어떻게 무기로 사용되고 있는지를 보여주고 있다.

완전히 컴퓨터 그래픽으로 제작된 이 영상에는 카트만두 전 시장 발렌드라 샤, 전력 부문 전 수장 쿨만 기싱, 그리고 라스트리야 스와탄트라당 대표 라비 라미차네가 함께 걷는 모습이 담겨 있었다.

해당 영상이 인터넷에서 입소문을 타면서 많은 사람들은 새로운 정치적 동맹이 형성되고 있다고 생각했습니다. 그러나 그 만남 전체가 컴퓨터로 만들어진 것이었기 때문에 세 정치인은 실제로 만난 적이 없습니다.

네트워크를 통해 음성 위조품이 확산되고 있습니다.

선거가 다가옴에 따라 네팔의 디지털 공간을 가득 채우고 있는 AI 기반 콘텐츠의 수많은 사례 중 하나일 뿐입니다 불과 6개월 에 . 당시 시위로 KP 샤르마 올리 총리는 사임했고, 네팔의 정치 시스템은 혼란에 빠졌습니다.

이러한 신뢰 위기로 인해 유명 인사를 표적으로 한 디지털 위조 범죄가 급증하고 있습니다. 네팔 자치정부 수반인 라스트리야 스와탄트라당(RSP)의dent스와르님 와글레는 네팔 경찰 사이버국에 고소장을 제출했습니다. 그가 인도 총리와 대화를 나눈 것처럼 보이도록 조작된 가짜 음성 파일이 발견되었는데, 이는 실제로는 존재하지 않는 만남이었습니다.

포인터 연구소의 사실 확인 활동 에서 드러났듯이, 이러한 음성 변조는 네팔에서 특히 심각한 위험을 초래합니다 dent 하는 도구의 신뢰성이 떨어지기 때문에 일반인들은 거짓과 진실을 구분하는 데 어려움을 겪습니다.

정부의 문제 통제 시도는 오히려 상황을 악화시키는 경우가 많았다. 페이스북, X, 유튜브는 규제 기관에 등록하지 않아 9월 시위 당시 당국에 의해 접속이 차단되었다.

해당 금지 조치는 긴장을 완화하기는커녕 오히려 더 큰 폭력을 야기했습니다. 로이터 통신은 그 여파로 최소 77명이 사망하고 수천 명이 부상당했다고 보도했습니다. 당국은 결국 제한 조치를 해제했지만, 이dent 강압적인 차단이 효과가 없다는 것을 보여주었습니다. 허위 정보는 단순히 감시하기 더 어려운 채널로 옮겨갔을 뿐입니다.

네팔 선거관리위원회는 정책을 통해 이러한 문제들을 해결하고자 노력해 왔습니다. 2021년에 발표한 " 선거 관리における 소셜 미디어 사용 "은 초기 지침을 제시했습니다. 다가오는 선거를 위한 새로운 행동 강령 초안은 유권자에게 영향을 미치려는 목적으로 허위 정보와 가짜 계정을 유포하는 것을 명시적으로 금지하고 있습니다.

하지만 전문가들은 생성형 AI 시대에 맞춰 이러한 규칙들을 즉시 개정해야 한다고 경고합니다. 여전히 해결되지 않은 질문들이 남아 있습니다. 합성 미디어란 정확히 무엇일까요? 캠페인 측은 AI의 도움을 받아 제작된 콘텐츠를 공개해야 할까요? 가짜 정보가 확산될 때 누가 책임을 져야 할까요?

전문가들은 합동 대응을

완벽한 규제가 마련되지 않은 상황에서 전문가와 감시 단체들은 보다 포괄적인 해결책을 촉구하고 있습니다. 포인터(Poynter)를 비롯한 여러 언론 기관들은 다음과 같은 몇 가지 조치를 권고합니다. 언론사와 사실 확인 담당자들은 모든 바이럴 영상을 범죄처럼 철저히 조사하여 출처를 trac하고 검증 과정을 명확히 제시해야 합니다.

정당과 후보자들은 딥페이크를 사용하지 않겠다고 약속하고, 인공지능으로 제작된 자료에는 명확한 표시를 해야 합니다. 소셜 미디어 기업들은 네팔의 언어와 정치 상황에 정통한 신속 대응팀을 구성해야 합니다. 일반 시민들은 충격적인 주장을 공유하기 전에 잠시 멈추고, 사실 여부를 확인하는 "10초 검증" 방식을 실천해야 합니다.

네팔 경찰 사이버국은 이미 기술적인 측면에서 더욱 고도화된 공격에 대비하고 있습니다. 사이버국 관계자인 SP 레이는 "인공지능(AI)은 점점 더 발전하고 있으며 다양한 방식으로 활용되고 있습니다. 머지않아 AI를 이용해 더욱 쉬워진 범죄와 사이버 공격을 목격하게 될 것입니다. "

레이는 또한 해당 기술의 상대적인 신규성이 어느 정도 숨 돌릴 틈을 줄 수 있다고 언급했습니다. 그는 AI 기술이 아직 초기 단계에 있으며 대중에게 이제 막 보급되고 있는 중이므로 파괴적인 도구로 사용되기까지는 시간이 좀 더 걸릴 수 있다고 믿습니다.

레이는 "우리는 이러한 범죄와 위협에 맞서 싸울 준비가 잘 되어 있으며, 또 그래야만 한다"고 말했다. 그는 또한 "네팔 경찰은 모든 행위를 조사할 수 있다. 다만 외국발 공격에 대해서는 조사에 시간이 걸릴 뿐 " .

1,000명의 회원으로 제한된 암호화폐 거래 커뮤니티 에서 무료 자리를 신청하세요