ネパールの政治家の偽AI動画が総選挙前に偽情報への懸念を呼ぶ

3月5日に迫ったネパールの総選挙を前に、ネパールの著名な政治家3人を起用した偽の映画で、AIが武器として利用されている実態が明らかになった。.

完全にコンピューターで生成されたこのビデオには、カトマンズの元市長バレンドラ・シャー氏、電力部門の元責任者クルマン・ギシン氏、そしてラシュトリヤ・スワタントラ党のリーダー、ラビ・ラミチャネ氏が一緒に歩いている様子が映っている。.

この動画がインターネットで拡散された際、新たな政治連携が生まれたのではないかと多くの人が考えました。しかし、この出会いは全てコンピューターで生成されたものだったため、3人の政治家が実際に会うことはありませんでした。

ネットワークを通じて拡散する偽造音声

この偽動画は、投票日が近づくにつれ、AIが生成したコンテンツがネパールのデジタル空間。選挙は、わずか6か月後に。この抗議活動は当時の首相K・P・シャルマ・オリ氏を追放し、国の政治体制を混乱に陥れた。

この信頼の危機の結果、著名人を狙ったデジタル偽造が横行している。ラシュトリヤ・スワタントラ党の副dent、スワニム・ワグレ氏は、ネパール警察サイバー局に告訴した。偽の音声テープは、ワグレ氏がインド首相と会談したという印象を与える目的で作成されたが、実際には会談は行われていない。.

ポインターのファクトチェック活動が示すように、これらの偽音声はネパールにおいて特有のリスクをもたらします。音声メッセージは家族のチャットグループやソーシャルメディアを通じて瞬く間に拡散し、受信者はしばしばその正当性を確認できません。改ざんされた音声を識別するためのツールの信頼性が低いdent、一般の人々は偽情報と真実を見分ける手段が限られています。

政府によるこの問題への対応は、しばしば事態を悪化させてきた。Facebook、X、YouTubeは、規制当局への登録を怠ったため、9月のデモ期間中、当局によってブロックされた。.

この禁止措置は緊張を緩和するどころか、さらなる暴力行為を引き起こした。ロイター通信は、その後の混乱で少なくとも77人が死亡し、数千人が負傷したと報じている。当局は最終的に制限を解除したが、このdent 、強引なブロッキングがなぜ効果がないのかを浮き彫りにした。偽情報は、監視がより困難なチャネルへと流れていったのだ。.

ネパール選挙管理委員会は、政策を通じてこれらの課題への対処に取り組んできました。2021年の「選挙管理におけるソーシャルメディアの利用」は、初期のガイドラインを定めています。また、今回の選挙に向けた新たな行動規範の草案では、有権者の心を動かすことを目的とした虚偽の情報や偽アカウントを明確に禁止しています。

しかし、専門家は、生成型AIの時代に合わせてこれらの規則を早急に改訂する必要があると警告しています。未解決の疑問が残っています。合成メディアとは具体的に何を指すのでしょうか？キャンペーンはAIの支援を受けて作成されたコンテンツを開示すべきでしょうか？偽情報が拡散した場合、誰が責任を負うのでしょうか？

対応を求める

完璧な規制が整備されていないため、専門家や監視団体はより広範な解決策を求めています。ポインターなどのメディア組織は、いくつかの対策を推奨しています。報道機関とファクトチェッカーは、あらゆる拡散動画を犯罪のように調査し、その出所を trac、どのように検証したかを示すべきです。.

政党と候補者はディープフェイクを使用しないことを約束し、AIが作成したコンテンツには明確なラベルを貼るべきです。ソーシャルメディア企業は、ネパールの言語と政治に精通した迅速対応チームを設置すべきです。一般市民は、衝撃的な主張を共有する前に、立ち止まり、確認し、確認する「10秒トリアージ」のアプローチを取るべきです。.

ネパール警察サイバー局は、技術面でより高度な攻撃への備えを既に開始している。同局の職員であるSP・レイ氏は、「AIはますます大規模になり、より多様な用途で利用されるようになっている。近い将来、AIによって容易になる犯罪やサイバー攻撃が見られるようになるかもしれない」。

レイ氏はまた、この技術が比較的新しいことが、ある程度の余裕をもたらす可能性があると指摘した。AI技術はまだ初期段階にあり、一般の人々に受け入れられ始めたばかりなので、破壊の道具として使われるようになるまでにはもう少し時間がかかるかもしれないと彼は考えている。

「我々はこうした犯罪や脅威と戦うための十分な装備を備えており、そうあるべきだ」とレイ氏は述べた。さらに彼は安心感を与えるように付け加えた。「ネパール警察はあらゆる行動を調査できる。調査に時間がかかるのは、外国からの攻撃だけだ」

1,000 人のメンバーに限定された、暗号通貨取引コミュニティで無料の席を獲得しましょう