Meta Oversight Board下令移除深度僞造內容，並稱人工智能規則不足

Meta 的監督委員會裁定，該公司必須撤下一段由人工智能生成的視頻，該視頻錯誤地顯示一名蘇格蘭工黨議員支持難民的性暴力行爲。. 

該公司最初決定保留該功能，但除了推翻該決定外，監管委員會還警告說，Meta 對深度僞造的處理方式會使用戶面臨受騙的風險。.

Meta必須刪除哪些捏造的視頻？ 

2025年11月，一段冒用蘇格蘭當地工黨政治人物形象的視頻出現在Facebook上。視頻中，該人物說道：“我們歡迎難民，即使他們強姦我們的婦女，因爲白人也會這樣做。”

Meta的監督委員會 認爲這段視頻雖然逼真，但略顯做作，並指出音頻與她的面部動作不符。這段視頻是在一個相冊中發現的，該相冊中還有一張照片，照片中包括這位議員在內的幾位女性正在參加一場反極右翼抗議活動。

有兩人（其中一人是議員本人）根據 Meta 的欺凌和騷擾規則舉報了該視頻，但 Meta 的系統從未將其轉交給人工審覈員，該視頻在兩次申訴後仍然保留在網站上。. 

第三位用戶隨後將此事提交給了委員會，即便在他們提出質疑後，Meta 仍然堅持認爲該視頻沒有違反任何規則，不應被貼上人工智能標籤。這位委員告訴委員會，該視頻“相當matic”。 

委員會多數成員認爲該視頻違反了Meta的仇恨行爲政策，因爲它將難民羣體整體指控爲犯有嚴重罪行和性侵犯行爲，駁回了Meta關於該視頻僅針對部分難民的說法。委員會並未將其視爲可移除的虛假信息，但表示該視頻應被貼上“高風險人工智能”標籤。.

董事會確實同意對梅塔有利的一點，那就是欺凌和騷擾規則不要求將其解僱，因爲民選官員是公衆人物，享有的保護比普通人要少。.

監督委員會對Meta有什麼建議？

委員會還介入了另一起案件，該案涉及一段人工智能操縱的視頻，視頻中一位女性正在接受月經健康教育。在委員會介入後，Meta公司以欺凌爲由撤下了該視頻。. 

這兩項裁決促使委員會稱 Meta 的安全保障措施“始終存在根本性不足”。

委員會 建議 Meta 降低“高風險”標籤的門檻，使其不僅限於選舉或危機時期，並將部分標籤替換爲點擊式插頁廣告。委員會還建議對高風險人工智能內容取消盈利、降低排名或從推薦列表中移除，並對重複分享者處以遞增的處罰。 

該機構還要求 Meta 在收到疑似人工智能內容舉報後，優先進行人工審覈；公佈其應用人工智能標籤的頻率年度數據，包括對涉及政治人物的帖子進行標籤標註；並使其投票和人口普查規則適用於全球範圍，而不僅僅是美國。Meta 有 60 天的時間回覆該機構。. 

全球各國政府和平臺都在收緊對合成媒體的監管。例如，中國最高人民法院 制定了責任認定規則 ，規定未經許可創建或分享他人面部或聲音的人工智能複製品屬於侵權行爲。 Cryptopolitan 報道 ，北京在今年早些時候開展的“青浪”整治行動第一階段，已下架超過14000款人工智能產品。 

歐盟的 《人工智能生成內容透明度行爲準則》 敦促服務提供商標記人工智能輸出，並敦促部署者標記深度僞造內容。 

Google Play 的 AI 生成內容政策 禁止用戶 發佈未經同意的深度僞造性內容和“明顯具有欺騙性或虛假”的選舉內容。

只有少數用戶被允許在 Medium 上使用 AI 進行寫作，且不會公開說明， 該平臺完全禁止 AI 生成的虛假信息 。 

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們？