xAI起訴Grok用戶，指控其製作未成年人露骨的深度僞造視頻。

埃隆·馬斯克的 xAI 公司將一名南卡羅來納州男子告上德克薩斯州聯邦法院，指控他使用 Grok 聊天機器人制作未成年人的色情深度僞造視頻。這是人工智能公司首次起訴其用戶，指控他們使用其平臺生成的內容。.

據路透社報道，被告特里·哈伍德 (Terry Harwood) 於今年2月因涉嫌性剝削未成年人被捕。xAI 的民事訴訟於4月14日星期二提起，並將與該刑事案件的後續進展一併審理。.

xAI的訴訟

起訴書稱，他使用虛假dent開設了多個賬戶，然後向人工智能工具輸入成人和兒童的普通照片，再編寫指令，將這些照片轉換成色情內容。據半島電視臺報道，這些照片中的人物並未同意，也不知道自己的照片被使用。.

xAI 聲稱系統對該行爲進行了反制。Grok 拒絕了這些請求，並將其標記爲違反其內容規則。根據投訴，Harwood 的回應是不斷修改提示信息並再次嘗試。.

據路透社報道，xAI在訴訟中寫道：“被告的行爲是蓄意策劃的，旨在利用原告的工具進行犯罪活動，給真正的受害者造成深遠而持久的傷害。”該公司還指控被告製作了未經成年人同意的性愛照片。

這家人工智能公司在訴訟文件中向法院提出了兩項要求：一是賠償損失（但未具體說明金額），二是禁止哈伍德公司再次使用Grok產品的禁令。.

xAI還在文件中闡述了其打擊不良行爲者的執法規模。該公司表示，今年已暫停52,222個賬戶，並向美國國家失蹤與受虐兒童中心提交了73,604份報告，這些報告促成了2026年至少244起逮捕行動。.

Grok仍受到更廣泛的關注

在此次事件發生之前，xAI 就已經因爲 Grok 的功能而備受壓力。歐洲監管機構對這款人工智能工具進行了審查，而華盛頓的立法者也提出了諸多擔憂。據半島電視臺 報道。

今年早些時候，埃隆·馬斯克本人否認了這一潛在問題。他一月份在X網站上寫道：“我不知道Grok生成過任何未成年人裸照。絕對沒有。”

我不知道Grok生成過任何未成年人裸露圖片。絕對沒有。.

顯然，Grok 不會自發生成圖像，它只會根據用戶的請求生成圖像。.

當被要求生成圖像時，它會拒絕生成任何非法內容，這是其運行原則…… https://t.co/YBoqo7ZmEj

——埃隆·馬斯克（@elonmusk） 2026年1月14日

近期一項名爲《反抗法案》 DEFIAct）的法律途徑的建立，也導致此類案件數量增加。該法案於2024年簽署生效，賦予了未經同意的私密深度僞造視頻受害者提起訴訟的權利，目前已有多個州通過了相應的法律。.

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。