印度要求 X 處理 Grok 生成的淫穢內容

印度政府已責令埃隆·馬斯克旗下的博客平臺X對其Grok人工智能聊天機器人進行修改，原因是該機器人存在不雅內容。此前，用戶和立法者舉報了多起不雅內容，印度政府要求X立即對該聊天機器人進行技術和程序方面的改進。.

據該國稱，聊天機器人被用於製作淫穢圖片，其中包括使用該工具生成的AI篡改女性圖片。印度信息技術部於週五發佈命令，要求該平臺對Grok採取糾正措施，包括限制生成涉及“裸露、性化、露骨色情或其他非法”內容。該部還給該平臺72小時的最後期限，要求其完成整改。

印度政府命令 X 對 Grok 進行技術修改

作爲72小時最後通牒的一部分，該部還要求X提交一份行動報告，詳細說明其爲防止託管或傳播不雅內容而採取的措施。這些內容包括“淫穢、色情、粗俗、不雅、露骨、戀童癖或其他法律禁止的內容”。該命令警告說，如果該平臺未能履行強制性措施，可能會危及其“安全港”保護。.

印度的這項命令源於用戶對Grok的擔憂，他們分享了一些案例，稱Grok會篡改人物照片，尤其是女性的照片，使她們看起來像穿着比基尼。此事是由印度議員普里揚卡·查圖爾維迪(Priyanka Chaturvedi)提交的正式投訴引發的。查圖爾維迪警告所有擁有人工智能聊天機器人的大型公司，必須建立相應的監管機制來檢查Grok等功能，以防止聊天機器人侵犯人類尊嚴。

此外，用戶還舉報了多dent人工智能聊天機器人被用於生成涉及未成年人的性暗示圖片的事件，X平臺於週五承認了這一問題。該平臺聲稱，這是由於安全措施存在漏洞所致，並迅速刪除了生成的圖片。該平臺還敦促用戶向聯邦調查局（FBI）或美國國家失蹤與受虐兒童中心（NCMEC）的“網絡舉報熱線”（CyberTipline）正式舉報，並強調X平臺致力於防止此類事件的發生。.

X可能因不遵守規定而面臨法律問題。

據用戶反映，通過聊天機器人生成的女性不雅圖片仍然保留在平臺上。此前，印度信息技術部向社交媒體平臺發出警告，提醒他們遵守當地有關淫穢和色情內容的法律是免除用戶生成內容法律責任的先決條件。印度政府敦促各公司加強監管，並警告稱，不遵守規定可能招致法律訴訟。.

該命令重申：“任何不遵守上述規定的行爲都將被嚴肅對待，並可能導致貴平臺、其負責人以及平臺上違反法律的用戶面臨嚴厲的法律後果，且無需另行通知。”印度政府還警告X平臺，如果其不遵守印度政府的指令，印度政府有權根據印度的信息技術法和刑法對該平臺提起訴訟。.

印度已成爲全球最大的數字市場之一，該國被視爲檢驗各國政府在追究平臺對人工智能生成內容責任方面願意採取何種力度的關鍵案例。如果印度加強執法力度，可能會對在其他司法管轄區運營的全球科技公司產生 ripple 。與此同時，X公司仍在法庭上挑戰印度的內容監管規則。.

該平臺認爲，聯邦政府的下架權力存在過度擴張的風險，儘管該平臺已遵守了聯邦政府提出的大部分屏蔽指令。與此同時， Grok對 X 平臺上的用戶頗有助益，大多數用戶利用該平臺對全球事件進行實時事實覈查和評論，這使得其內容比獨立的 AI 工具更具可見性，也更關注政治敏感度。

加密交易社區中申請免費席位- 僅限 1,000 名成員。