尼泊尔政客的虚假人工智能视频引发提前大选前的虚假信息担忧

在尼泊尔即将于 3 月 5 日举行提前大选之际，一部以尼泊尔三位知名政治家为主角的虚构电影揭露了人工智能是如何被用作武器的。.

这段完全由电脑生成的视频描绘了前加德满都市长巴伦德拉·沙阿、前电力部门负责人库尔曼·吉辛和国家自由党领导人拉比·拉米查内并肩而行的场景。.

这段视频在网上疯传后，许多人认为一个新的政治联盟正在形成。然而，由于整个会面过程都是电脑生成的，这三位政治人物实际上从未见过面。

音频造假通过社交网络

这段虚假视频只是人工智能制造的内容充斥尼泊尔数字空间，而此时距离大选日仅六个月。六个月前，由年轻人领导的暴力示威活动迫使时任总理卡德加·普拉萨德·夏尔马·奥利下台，并使尼泊尔的政治体系陷入动荡。

由于这场信任危机，针对知名人士的数字伪造行为层出不穷。尼泊尔国家自由党dent斯瓦尔尼姆·瓦格勒已向尼泊尔警方网络犯罪调查局报案。有人伪造了一段录音，试图制造他与印度总理会面的假象，而事实上，这次会面从未发生过。.

波因特研究所的事实核查工作所表明的那样，这些音频造假在尼泊尔构成独特的风险。语音信息在家庭聊天群和社交媒体中传播迅速，接收者往往无法确认其真实性。用于识别dent音频的工具可靠性不足，这意味着普通民众区分真假信息的能力有限。

政府试图控制这一问题的努力往往适得其反。由于未能向监管机构注册，Facebook、Xbox和YouTube在9月份的示威活动期间被当局封锁。.

禁令非但没有缓和紧张局势，反而引发了更多暴力事件。路透社记录显示，随后的混乱中至少有77人死亡，数千人受伤。官员最终解除了限制，但这一dent 表明，强硬的封锁措施行不通。虚假信息只是转移到了更难监控的渠道。.

尼泊尔选举委员会已尝试通过政策应对这些挑战。其2021年发布的《关于在选举管理中使用社交媒体的》制定了初步指导方针。即将举行的选举的新行为准则草案明确禁止发布旨在影响选民的虚假信息和创建虚假账户。

然而，专家警告说，这些规则需要立即更新，以适应生成式人工智能时代。一些问题仍然悬而未决：究竟什么才算是合成媒体？竞选活动是否应该披露使用人工智能辅助创建的内容？虚假信息传播时，谁该承担责任？

专家呼吁采取协调一致的应对措施

由于缺乏完善的监管机制，专家和监督机构正在推动更广泛的解决方案。波因特研究所和其他类似的媒体机构建议采取以下几项措施：新闻机构和事实核查员应像调查犯罪案件一样调查每一个病毒式传播的视频， trac其来源并展示他们是如何核实其真实性的。.

各政党和候选人应承诺不使用深度伪造技术，并明确标注所有人工智能生成的材料。社交媒体公司应建立熟悉尼泊尔语言和政治的快速反应团队。普通民众应采取“十秒钟快速判断”的方式，在分享耸人听闻的言论之前，先停下来，核实确认。.

尼泊尔警方网络局已在技术层面着手应对更高级的网络攻击。该局官员雷伊警司表示：“人工智能的应用越来越广泛，涉及的领域也越来越多。我们可能很快就会看到一些犯罪和网络攻击因为人工智能的介入而变得更加容易。 ”

雷还指出，这项技术相对较新，或许能提供一些喘息之机。他认为人工智能技术仍处于起步阶段，刚刚被公众接受，因此可能还需要一段时间才能将其用作破坏性工具。

雷伊说：“我们完全有能力打击这些犯罪和威胁，而且我们也应该如此。” 他补充道：“尼泊尔警方可以调查任何行动。唯一需要时间调查的是来自境外的袭击。 ”

加密交易社区中申请免费席位- 仅限 1,000 名成员。