印度要求科技平台在9天内对所有人工智能内容进行标记，并在3小时内删除深度伪造内容。

印度刚刚提出了可能挑战。从2月20日起，在该国运营的社交媒体公司必须对所有虚假人工智能内容进行标记，并删除，目前尚无有效技术能够做到这一点。

周二公布的这些规则向Meta、谷歌和X等平台施加压力，要求它们部署系统，在用户看到人工智能生成的图像、视频和音频之前对其进行识别阻止用户移除或隐藏这些标签。即便拥有数十亿美元的资源，这些科技巨头也难以确保其现有检测工具的可靠性。

大多数大型平台已经在使用一种名为C2PA（内容处理与认证）的技术，它在文件中植入制作。这就像数字内容的营养标签。如果这项技术运行正常，你就能分辨出照片是来自真实相机还是人工智能生成器。Facebook、Instagram、YouTube和LinkedIn都在尝试标记这类内容，但这些标签很容易被忽略，因此大量虚假内容得以蒙混过关。

该系统存在重大漏洞制作虚假裸照的开源人工智能工具和应用程序完全跳过标注过程。即使存在标注，在许多网站上，这些标注也会在文件上传过程中消失。C2PA 的支持者多年来一直声称，这项技术只需要更广泛的应用就能成功。印度即将用 5 亿社交媒体用户来这一

为什么印度的市场力量改变了一切

印度拥有4.81亿Instagram用户、4.03亿Facebook用户、5亿YouTube观众和2.13亿Snapchat用户。X公司将印度视为其第三大市场。当一个如此庞大的国家制定新规时，全球科技公司通常会调整其系统，而不仅仅局限于一个地区。

经历了数月应对深度伪造危机之后，此次行动应运而生。Cryptopolitan去年10月报道，宝莱坞演员阿布舍克·巴强和艾西瓦娅·雷·巴强就使用他们面部的虚假视频提起诉讼，索赔近50万美元。这对夫妇声称， YouTube的人工智能训练器抓取了公共内容来训练系统，这些系统随后利用他们的图像制作了虚假媒体。诸如此类的案件，以及女演员拉什米卡·曼丹娜的虚假视频在网络上疯传，促使印度政府采取行动。

这一时机不谋而合。谷歌正在维沙卡帕特南建设一座价值150亿美元的AI中心，这将成为该公司在美国以外最大的设施。该中心将拥有千兆瓦级的计算能力，预计将于2028年7月投入使用。随着如此规模的AI基础设施的到来，监管机构希望首先落实内容安全规则。

批评人士警告称，审查将“迅速进行”。

紧迫的下架期限令言论自由倡导者担忧。互联网自由基金会表示，三小时的下架窗口将迫使公司使用自动化系统，而这些系统可能会误删过多内容。他们称之为制造“快速审查员”，因为根本没有时间让人工仔细审查举报。

像X这样的平台尚未建立任何人工智能标注系统，现在只有九天时间从零开始构建整个系统。Meta、谷歌和X均拒绝置评。C2PA背后的公司Adobe也保持沉默。

制定规则的官员似乎也意识到现有技术尚未成熟。规则要求平台应“在技术可行的范围内”使用检测方法——这种法律措辞承认，完美无缺并非必然。印度领导人相信压力能够推动创新。他们押注，当迫使科技公司要么构建更完善的系统，要么失去数亿用户的访问权限时，这些公司会迅速找到解决方案。

是否存在更先进的人工智能检测技术可供开发，还是印度只是命令企业交付一些尚无法制造的，目前尚不得而知。九天后，我们将

最顶尖的加密货币专家都在阅读我们的简报。想加入他们？