xAI起诉Grok用户，指控其制作未成年人露骨的深度伪造视频。

埃隆·马斯克的 xAI 公司将一名南卡罗来纳州男子告上德克萨斯州联邦法院，指控他使用 Grok 聊天机器人制作未成年人的色情深度伪造视频。这是人工智能公司首次起诉其用户，指控他们使用其平台生成的内容。.

据路透社报道，被告特里·哈伍德 (Terry Harwood) 于今年2月因涉嫌性剥削未成年人被捕。xAI 的民事诉讼于4月14日星期二提起，并将与该刑事案件的后续进展一并审理。.

xAI的诉讼

起诉书称，他使用虚假dent开设了多个账户，然后向人工智能工具输入成人和儿童的普通照片，再编写指令，将这些照片转换成色情内容。据半岛电视台报道，这些照片中的人物并未同意，也不知道自己的照片被使用。.

xAI 声称系统对该行为进行了反制。Grok 拒绝了这些请求，并将其标记为违反其内容规则。根据投诉，Harwood 的回应是不断修改提示信息并再次尝试。.

据路透社报道，xAI在诉讼中写道：“被告的行为是蓄意策划的，旨在利用原告的工具进行犯罪活动，给真正的受害者造成深远而持久的伤害。”该公司还指控被告制作了未经成年人同意的性爱照片。

这家人工智能公司在诉讼文件中向法院提出了两项要求：一是赔偿损失（但未具体说明金额），二是禁止哈伍德公司再次使用Grok产品的禁令。.

xAI还在文件中阐述了其打击不良行为者的执法规模。该公司表示，今年已暂停52,222个账户，并向美国国家失踪与受虐儿童中心提交了73,604份报告，这些报告促成了2026年至少244起逮捕行动。.

Grok仍受到更广泛的关注

在此次事件发生之前，xAI 就已经因为 Grok 的功能而备受压力。欧洲监管机构对这款人工智能工具进行了审查，而华盛顿的立法者也提出了诸多担忧。据半岛电视台 报道。

今年早些时候，埃隆·马斯克本人否认了这一潜在问题。他一月份在X网站上写道：“我不知道Grok生成过任何未成年人裸照。绝对没有。”

我不知道Grok生成过任何未成年人裸露图片。绝对没有。.

显然，Grok 不会自发生成图像，它只会根据用户的请求生成图像。.

当被要求生成图像时，它会拒绝生成任何非法内容，这是其运行原则…… https://t.co/YBoqo7ZmEj

——埃隆·马斯克（@elonmusk） 2026年1月14日

近期一项名为《反抗法案》 DEFIAct）的法律途径的建立，也导致此类案件数量增加。该法案于2024年签署生效，赋予了未经同意的私密深度伪造视频受害者提起诉讼的权利，目前已有多个州通过了相应的法律。.

如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。