分析-馬斯克因 "Grok deepfakes "遭打擊，但監管之爭遠未結束

Supantha Mukherjee/Paul Sandle

路透斯德哥爾摩/倫敦1月15日 - 埃隆-馬斯克（Elon Musk）的Grok聊天機器人正在考驗歐洲取締在線圖片深度偽造和數字脫衣的能力，即使在監管機構迫使馬斯克的xAI公司遏制性化圖片的創作取得罕見勝利之後。

xAI 周三晚些時候表示， (link)，它已經限制了 Grok AI 用戶的圖片編輯，因為該聊天機器人製作了數千張女性和未成年人的性化圖片，引起了全球監管機構的警覺。

馬斯克最初對這一趨勢一笑置之，但他的這一舉動凸顯了監管人工智能工具的難度，因為這些工具可以廉價、輕鬆地創建露骨的內容。這是 歐洲與馬斯克之間的最新衝突，此前雙方曾就干涉選舉 (link)、內容節制和言論自由 (link)。

許多監管機構仍在爭先恐後地制定管理人工智能的法律和規則，在什麼是裸體、如何定義同意以及誰承擔責任（用戶還是平台）等問題上都存在問號。

"Mannheimer Swartling 公司駐斯德哥爾摩的數據保護和隱私律師昂格拉-帕恩德爾（Ängla Pändel）告訴路透記者："關於裸體圖像的創作，這確實是一個灰色地帶。

英國通信管理局（Ofcom）是在這一問題上呼聲最高的監管機構之一，它對馬斯克的舉動表示歡迎，但表示將繼續就 Grok 圖像對 xAI 進行調查。

"我們的正式調查仍在進行中，"一位發言人說。"我們正在夜以繼日地工作，以取得進展，並就出錯的原因和正在採取的補救措施找到答案。"

官員稱仍需最嚴厲執法

本月早些時候，Grok 製作了超逼真的女性圖片 (link)，這些圖片在 X 上經過處理，看起來像是穿著小巧的比基尼，擺出有辱人格的姿勢，甚至渾身是傷。一些未成年人被數字化地脫去了泳裝。

直到本周三，路透發現該聊天機器人仍在根據要求私自製作性化圖片。周四，這種情況似乎至少在某些地區得到了遏制。

馬斯克的 xAI 表示，它正在阻止 (link) 用戶在 "非法的司法管轄區 "生成穿著暴露的圖片。該公司並未指明這些地區。

在馬來西亞和印尼，政府對 Grok (link) 施加了臨時禁令，而歐盟和英國的監管機構則稱這些圖片是非法的。英國、法國和意大利啟動了調查 (link)，但也面臨著採取更嚴厲行動的呼聲。

基督教民主黨歐洲議會議員妮娜-卡伯里（Nina Carberry）說："需要根據《數字服務法》（Digital Services Act(DSA)）加強執法力度，制止對婦女和兒童進行色情化或裸體化的應用程序和平台，"她稱 (link) 的最新舉措是 "積極的一步"。

歐盟執委會發言人說，如果 Grok 的改變無效，歐盟執委會仍將對該平台動用歐盟 DSA 的全部執法工具箱。

法律灰色地帶，受害者負擔沉重

英國西蒙斯律師事務所的數據保護律師亞歷山大-布朗（Alexander Brown）表示，英國《網絡安全法》規定，未經同意分享私密圖片，包括人工智能生成的深度偽造圖片，屬於 "重點罪行"。

"他說："這意味著 X 必須採取積極、適度的措施，防止此類內容出現在其平台上，並在發現後迅速刪除。

在最嚴重的違規情況下，英國監管機構可對公司處以最高達收入 10%的罰款，或要求法院要求互聯網服務提供商封鎖網站。

Mannheimer Swartling 律師事務所的律師安德斯-伯格斯鄧（Anders Bergsten）說，對個人而言，將平台告上法庭是 "一個非常困難和沉重的過程"，他提到了受害者的精神損失。

深度偽造已經存在多年 (link)，遠在人工智能應用出現之前，儘管它們主要局限於網絡的陰暗角落。X 的發布能力為 Grok 帶來了前所未有的影響力。

"為網絡騷擾受害者提供服務的美國律師卡莉-戈德堡（Carrie Goldberg）說："無摩擦的發布能力使深度偽造得以大規模傳播。

英國和瑞典的法律規定，未經同意分享裸體圖片屬於違法行為。英國正在擴大法律範圍，將製作此類圖像也納入其中。

根據《網絡服務法》，暫停服務被視為最後手段。 (link) 專家說，歐盟的《人工智能法》也沒有任何關於成人裸體圖像的規定，只有針對深度偽造的透明度義務。

英國首相基爾-斯塔默（Keir Starmer）周四對 X 的舉動表示歡迎，但他警告說："言論自由並不是'誹謗'的自由："言論自由不是侵犯同意權的自由。年輕女性的圖像不是公共財產，她們的安全不容爭辯。

"如果我們需要進一步加強現有法律，我們準備這樣做。"