分析-马斯克因 "Grok deepfakes "遭打击，但监管之争远未结束

Supantha Mukherjee/Paul Sandle

路透斯德哥尔摩/伦敦1月15日 - 埃隆-马斯克（Elon Musk）的Grok聊天机器人正在考验欧洲取缔在线图片深度伪造和数字脱衣的能力，即使在监管机构迫使马斯克的xAI公司遏制性化图片的创作取得罕见胜利之后。

xAI 周三晚些时候表示， (link)，它已经限制了 Grok AI 用户的图片编辑，因为该聊天机器人制作了数千张女性和未成年人的性化图片，引起了全球监管机构的警觉。

马斯克最初对这一趋势一笑置之，但他的这一举动凸显了监管人工智能工具的难度，因为这些工具可以廉价、轻松地创建露骨的内容。这是 欧洲与马斯克之间的最新冲突，此前双方曾就干涉选举 (link)、内容节制和言论自由 (link)。

许多监管机构仍在争先恐后地制定管理人工智能的法律和规则，在什么是裸体、如何定义同意以及谁承担责任（用户还是平台）等问题上都存在问号。

"Mannheimer Swartling 公司驻斯德哥尔摩的数据保护和隐私律师昂格拉-帕恩德尔（Ängla Pändel）告诉路透记者："关于裸体图像的创作，这确实是一个灰色地带。

英国通信管理局（Ofcom）是在这一问题上呼声最高的监管机构之一，它对马斯克的举动表示欢迎，但表示将继续就 Grok 图像对 xAI 进行调查。

"我们的正式调查仍在进行中，"一位发言人说。"我们正在夜以继日地工作，以取得进展，并就出错的原因和正在采取的补救措施找到答案。"

官员称仍需最严厉执法

本月早些时候，Grok 制作了超逼真的女性图片 (link)，这些图片在 X 上经过处理，看起来像是穿着小巧的比基尼，摆出有辱人格的姿势，甚至浑身是伤。一些未成年人被数字化地脱去了泳装。

直到本周三，路透发现该聊天机器人仍在根据要求私自制作性化图片。周四，这种情况似乎至少在某些地区得到了遏制。

马斯克的 xAI 表示，它正在阻止 (link) 用户在 "非法的司法管辖区 "生成穿着暴露的图片。该公司并未指明这些地区。

在马来西亚和印尼，政府对 Grok (link) 施加了临时禁令，而欧盟和英国的监管机构则称这些图片是非法的。英国、法国和意大利启动了调查 (link)，但也面临着采取更严厉行动的呼声。

基督教民主党欧洲议会议员妮娜-卡伯里（Nina Carberry）说："需要根据《数字服务法》（Digital Services Act(DSA)）加强执法力度，制止对妇女和儿童进行色情化或裸体化的应用程序和平台，"她称 (link) 的最新举措是 "积极的一步"。

欧盟执委会发言人说，如果 Grok 的改变无效，欧盟执委会仍将对该平台动用欧盟 DSA 的全部执法工具箱。

法律灰色地带，受害者负担沉重

英国西蒙斯律师事务所的数据保护律师亚历山大-布朗（Alexander Brown）表示，英国《网络安全法》规定，未经同意分享私密图片，包括人工智能生成的深度伪造图片，属于 "重点罪行"。

"他说："这意味着 X 必须采取积极、适度的措施，防止此类内容出现在其平台上，并在发现后迅速删除。

在最严重的违规情况下，英国监管机构可对公司处以最高达收入 10%的罚款，或要求法院要求互联网服务提供商封锁网站。

Mannheimer Swartling 律师事务所的律师安德斯-伯格斯邓（Anders Bergsten）说，对个人而言，将平台告上法庭是 "一个非常困难和沉重的过程"，他提到了受害者的精神损失。

深度伪造已经存在多年 (link)，远在人工智能应用出现之前，尽管它们主要局限于网络的阴暗角落。X 的发布能力为 Grok 带来了前所未有的影响力。

"为网络骚扰受害者提供服务的美国律师卡莉-戈德堡（Carrie Goldberg）说："无摩擦的发布能力使深度伪造得以大规模传播。

英国和瑞典的法律规定，未经同意分享裸体图片属于违法行为。英国正在扩大法律范围，将制作此类图像也纳入其中。

根据《网络服务法》，暂停服务被视为最后手段。 (link) 专家说，欧盟的《人工智能法》也没有任何关于成人裸体图像的规定，只有针对深度伪造的透明度义务。

英国首相基尔-斯塔默（Keir Starmer）周四对 X 的举动表示欢迎，但他警告说："言论自由并不是'诽谤'的自由："言论自由不是侵犯同意权的自由。年轻女性的图像不是公共财产，她们的安全不容争辩。

"如果我们需要进一步加强现有法律，我们准备这样做。"