尼泊爾政客的虛假人工智能視頻引發提前大選前的虛假信息擔憂

在尼泊爾即將於 3 月 5 日舉行提前大選之際，一部以尼泊爾三位知名政治家爲主角的虛構電影揭露了人工智能是如何被用作武器的。.

這段完全由電腦生成的視頻描繪了前加德滿都市長巴倫德拉·沙阿、前電力部門負責人庫爾曼·吉辛和國家自由黨領導人拉比·拉米查內並肩而行的場景。.

這段視頻在網上瘋傳後，許多人認爲一個新的政治聯盟正在形成。然而，由於整個會面過程都是電腦生成的，這三位政治人物實際上從未見過面。

音頻造假通過社交網絡

這段虛假視頻只是人工智能製造的內容充斥尼泊爾數字空間，而此時距離大選日僅六個月。六個月前，由年輕人領導的暴力示威活動迫使時任總理卡德加·普拉薩德·夏爾馬·奧利下臺，並使尼泊爾的政治體系陷入動盪。

由於這場信任危機，針對知名人士的數字僞造行爲層出不窮。尼泊爾國家自由黨dent斯瓦爾尼姆·瓦格勒已向尼泊爾警方網絡犯罪調查局報案。有人僞造了一段錄音，試圖製造他與印度總理會面的假象，而事實上，這次會面從未發生過。.

波因特研究所的事實覈查工作所表明的那樣，這些音頻造假在尼泊爾構成獨特的風險。語音信息在家庭聊天羣和社交媒體中傳播迅速，接收者往往無法確認其真實性。用於識別dent音頻的工具可靠性不足，這意味着普通民衆區分真假信息的能力有限。

政府試圖控制這一問題的努力往往適得其反。由於未能向監管機構註冊，Facebook、Xbox和YouTube在9月份的示威活動期間被當局封鎖。.

禁令非但沒有緩和緊張局勢，反而引發了更多暴力事件。路透社記錄顯示，隨後的混亂中至少有77人死亡，數千人受傷。官員最終解除了限制，但這一dent 表明，強硬的封鎖措施行不通。虛假信息只是轉移到了更難監控的渠道。.

尼泊爾選舉委員會已嘗試通過政策應對這些挑戰。其2021年發佈的《關於在選舉管理中使用社交媒體的》制定了初步指導方針。即將舉行的選舉的新行爲準則草案明確禁止發佈旨在影響選民的虛假信息和創建虛假賬戶。

然而，專家警告說，這些規則需要立即更新，以適應生成式人工智能時代。一些問題仍然懸而未決：究竟什麼纔算是合成媒體？競選活動是否應該披露使用人工智能輔助創建的內容？虛假信息傳播時，誰該承擔責任？

專家呼籲採取協調一致的應對措施

由於缺乏完善的監管機制，專家和監督機構正在推動更廣泛的解決方案。波因特研究所和其他類似的媒體機構建議採取以下幾項措施：新聞機構和事實覈查員應像調查犯罪案件一樣調查每一個病毒式傳播的視頻， trac其來源並展示他們是如何覈實其真實性的。.

各政黨和候選人應承諾不使用深度僞造技術，並明確標註所有人工智能生成的材料。社交媒體公司應建立熟悉尼泊爾語言和政治的快速反應團隊。普通民衆應採取“十秒鐘快速判斷”的方式，在分享聳人聽聞的言論之前，先停下來，覈實確認。.

尼泊爾警方網絡局已在技術層面着手應對更高級的網絡攻擊。該局官員雷伊警司表示：“人工智能的應用越來越廣泛，涉及的領域也越來越多。我們可能很快就會看到一些犯罪和網絡攻擊因爲人工智能的介入而變得更加容易。 ”

雷還指出，這項技術相對較新，或許能提供一些喘息之機。他認爲人工智能技術仍處於起步階段，剛剛被公衆接受，因此可能還需要一段時間才能將其用作破壞性工具。

雷伊說：“我們完全有能力打擊這些犯罪和威脅，而且我們也應該如此。” 他補充道：“尼泊爾警方可以調查任何行動。唯一需要時間調查的是來自境外的襲擊。 ”

加密交易社區中申請免費席位- 僅限 1,000 名成員。