谷歌开源水印工具，供用户dent人工智能生成的文本

谷歌研究人员解释他们的水印工具

在X 平台上的一篇文章中，这家搜索引擎巨头透露，它正在开源其 SynthID Text 水印工具，并表示该工具将“免费提供给企业和开发人员，因为它将帮助他们dent人工智能生成的内容。”

谷歌 DeepMind 研究副dent、谷歌 DeepMind 研究论文合著者Pushmeet Kohli表示：“该系统不会损害人工智能模型的功能，而只是让它们变得更好。”

图像和视频一直是内容dent讨论的核心，水印已被指定为打击深度伪造所需的解决方案。

内容来源和真实性联盟(C2PA) 是由科技公司和主要媒体机构合作开发的系统，用于附加加密元数据以指示人工智能生成的图像和视频文件，也是这些讨论的核心。

根据 Google DeepMinds 的研究论文，SynthID Text 在生成过程中会产生干扰，因为它会改变聊天机器人发出的一些单词，使其对 SynthID 检测器来说是清楚的，但对人类来说几乎是看不见的。

研究人员在论文中写道：“此类修改将统计签名引入人工智能生成的文本中，并且在水印检测阶段，可以测量签名以查看文本是否来自带水印的法学硕士的人工智能模型。”

通过逐字生成句子，这就是为聊天机器人提供支持的法学硕士的工作方式，因为它们根据之前的上下文选择可能的下一个单词。通过随机分配候选词的分数，法学硕士会产生得分较高的单词。水印将被放置在一段文本上，该文本将被检测器分析，并被发现具有更高的分数。

今天，我们通过更新的 Responsible Generative AI Toolkit 开源 SynthID 文本水印工具。

它将免费提供给开发人员和企业，帮助他们dent人工智能生成的内容。 🔍

了解更多 → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— 谷歌 DeepMind (@GoogleDeepMind) 2024 年 10 月 23 日

行业专家称赞谷歌朝着正确的方向迈出了一步

尽管 DeepMind 系统在文本水印方面比其他工具表现更好，但研究人员在论文中承认该工具仍然存在缺陷。例如，如果您更改 Gemini 生成的文本，探测器就会被愚弄。

“虽然 SynthID 并不是dent人工智能生成内容的灵丹妙药，但它是开发更可靠的人工智能dent工具的重要组成部分。”

——科利。

如果用户显着更改文本或使用另一个聊天机器人来总结文本，则检测器将误入歧途，为人工智能生成的文本添加水印。

谷歌声称，SynthID Text 不会影响文本生成的质量、准确性或速度，正如其Gemini 模型中集成的系统所测试的那样。该公司还补充说，它甚至可以处理经过裁剪、修改或释义的文本。

“当人们开始考虑实际情况中的实施时，检测是一个特殊的问题，因为在野外审查文本时存在问题，人们必须知道应用了哪种水印模型才能知道以及在哪里找到文本。 C2PA 指导委员会成员 Bruce MacCormack 解释道。

除了谷歌之外，OpenAI 也多年来一直致力于人工智能文本水印技术，但由于技术和商业可行性而推迟了发布。

但行业专家普遍称赞谷歌的举措是朝着正确方向迈出的一步。

微软媒体来源总监兼 C2PA 执行主席 Andrew Jenks 表示：“它有望改善 C2PA 对文档和原始文本的持久内容dent的使用。”

麦科马克还补充说，虽然谷歌研究人员还有很多工作要做，才能使其成为一个实际案例，但这仍然是一项伟大的举措，也是“未来马拉松的第一步”。