印度要求 X 处理 Grok 生成的淫秽内容

印度政府已责令埃隆·马斯克旗下的博客平台X对其Grok人工智能聊天机器人进行修改，原因是该机器人存在不雅内容。此前，用户和立法者举报了多起不雅内容，印度政府要求X立即对该聊天机器人进行技术和程序方面的改进。.

据该国称，聊天机器人被用于制作淫秽图片，其中包括使用该工具生成的AI篡改女性图片。印度信息技术部于周五发布命令，要求该平台对Grok采取纠正措施，包括限制生成涉及“裸露、性化、露骨色情或其他非法”内容。该部还给该平台72小时的最后期限，要求其完成整改。

印度政府命令 X 对 Grok 进行技术修改

作为72小时最后通牒的一部分，该部还要求X提交一份行动报告，详细说明其为防止托管或传播不雅内容而采取的措施。这些内容包括“淫秽、色情、粗俗、不雅、露骨、恋童癖或其他法律禁止的内容”。该命令警告说，如果该平台未能履行强制性措施，可能会危及其“安全港”保护。.

印度的这项命令源于用户对Grok的担忧，他们分享了一些案例，称Grok会篡改人物照片，尤其是女性的照片，使她们看起来像穿着比基尼。此事是由印度议员普里扬卡·查图尔维迪(Priyanka Chaturvedi)提交的正式投诉引发的。查图尔维迪警告所有拥有人工智能聊天机器人的大型公司，必须建立相应的监管机制来检查Grok等功能，以防止聊天机器人侵犯人类尊严。

此外，用户还举报了多dent人工智能聊天机器人被用于生成涉及未成年人的性暗示图片的事件，X平台于周五承认了这一问题。该平台声称，这是由于安全措施存在漏洞所致，并迅速删除了生成的图片。该平台还敦促用户向联邦调查局（FBI）或美国国家失踪与受虐儿童中心（NCMEC）的“网络举报热线”（CyberTipline）正式举报，并强调X平台致力于防止此类事件的发生。.

X可能因不遵守规定而面临法律问题。

据用户反映，通过聊天机器人生成的女性不雅图片仍然保留在平台上。此前，印度信息技术部向社交媒体平台发出警告，提醒他们遵守当地有关淫秽和色情内容的法律是免除用户生成内容法律责任的先决条件。印度政府敦促各公司加强监管，并警告称，不遵守规定可能招致法律诉讼。.

该命令重申：“任何不遵守上述规定的行为都将被严肃对待，并可能导致贵平台、其负责人以及平台上违反法律的用户面临严厉的法律后果，且无需另行通知。”印度政府还警告X平台，如果其不遵守印度政府的指令，印度政府有权根据印度的信息技术法和刑法对该平台提起诉讼。.

印度已成为全球最大的数字市场之一，该国被视为检验各国政府在追究平台对人工智能生成内容责任方面愿意采取何种力度的关键案例。如果印度加强执法力度，可能会对在其他司法管辖区运营的全球科技公司产生 ripple 。与此同时，X公司仍在法庭上挑战印度的内容监管规则。.

该平台认为，联邦政府的下架权力存在过度扩张的风险，尽管该平台已遵守了联邦政府提出的大部分屏蔽指令。与此同时， Grok对 X 平台上的用户颇有助益，大多数用户利用该平台对全球事件进行实时事实核查和评论，这使得其内容比独立的 AI 工具更具可见性，也更关注政治敏感度。

加密交易社区中申请免费席位- 仅限 1,000 名成员。