Meta Oversight Board下令移除深度伪造内容，并称人工智能规则不足

Meta 的监督委员会裁定，该公司必须撤下一段由人工智能生成的视频，该视频错误地显示一名苏格兰工党议员支持难民的性暴力行为。. 

该公司最初决定保留该功能，但除了推翻该决定外，监管委员会还警告说，Meta 对深度伪造的处理方式会使用户面临受骗的风险。.

Meta必须删除哪些捏造的视频？ 

2025年11月，一段冒用苏格兰当地工党政治人物形象的视频出现在Facebook上。视频中，该人物说道：“我们欢迎难民，即使他们强奸我们的妇女，因为白人也会这样做。”

Meta的监督委员会 认为这段视频虽然逼真，但略显做作，并指出音频与她的面部动作不符。这段视频是在一个相册中发现的，该相册中还有一张照片，照片中包括这位议员在内的几位女性正在参加一场反极右翼抗议活动。

有两人（其中一人是议员本人）根据 Meta 的欺凌和骚扰规则举报了该视频，但 Meta 的系统从未将其转交给人工审核员，该视频在两次申诉后仍然保留在网站上。. 

第三位用户随后将此事提交给了委员会，即便在他们提出质疑后，Meta 仍然坚持认为该视频没有违反任何规则，不应被贴上人工智能标签。这位委员告诉委员会，该视频“相当matic”。 

委员会多数成员认为该视频违反了Meta的仇恨行为政策，因为它将难民群体整体指控为犯有严重罪行和性侵犯行为，驳回了Meta关于该视频仅针对部分难民的说法。委员会并未将其视为可移除的虚假信息，但表示该视频应被贴上“高风险人工智能”标签。.

董事会确实同意对梅塔有利的一点，那就是欺凌和骚扰规则不要求将其解雇，因为民选官员是公众人物，享有的保护比普通人要少。.

监督委员会对Meta有什么建议？

委员会还介入了另一起案件，该案涉及一段人工智能操纵的视频，视频中一位女性正在接受月经健康教育。在委员会介入后，Meta公司以欺凌为由撤下了该视频。. 

这两项裁决促使委员会称 Meta 的安全保障措施“始终存在根本性不足”。

委员会 建议 Meta 降低“高风险”标签的门槛，使其不仅限于选举或危机时期，并将部分标签替换为点击式插页广告。委员会还建议对高风险人工智能内容取消盈利、降低排名或从推荐列表中移除，并对重复分享者处以递增的处罚。 

该机构还要求 Meta 在收到疑似人工智能内容举报后，优先进行人工审核；公布其应用人工智能标签的频率年度数据，包括对涉及政治人物的帖子进行标签标注；并使其投票和人口普查规则适用于全球范围，而不仅仅是美国。Meta 有 60 天的时间回复该机构。. 

全球各国政府和平台都在收紧对合成媒体的监管。例如，中国最高人民法院 制定了责任认定规则 ，规定未经许可创建或分享他人面部或声音的人工智能复制品属于侵权行为。 Cryptopolitan 报道 ，北京在今年早些时候开展的“青浪”整治行动第一阶段，已下架超过14000款人工智能产品。 

欧盟的 《人工智能生成内容透明度行为准则》 敦促服务提供商标记人工智能输出，并敦促部署者标记深度伪造内容。 

Google Play 的 AI 生成内容政策 禁止用户 发布未经同意的深度伪造性内容和“明显具有欺骗性或虚假”的选举内容。

只有少数用户被允许在 Medium 上使用 AI 进行写作，且不会公开说明， 该平台完全禁止 AI 生成的虚假信息 。 

最顶尖的加密货币专家都在阅读我们的简报。想 加入他们？