加州總檢察長命令xAI停止分發深度僞造圖像

加州總檢察長羅伯·邦塔向埃隆·馬斯克的 xAI 公司發出停止侵權通知函，要求該公司立即停止製作和傳播其 Grok 聊天機器人生成的冒犯性深度僞造圖像。. 

加州總檢察長辦公室發佈了停止侵權通知函，回應有關Grok被用於製作涉及兒童和未經同意的成人照片的非法內容的指控，該指控引發了加州政府的調查。邦塔辯稱，製作、傳播、發佈和展示兒童性虐待材料均屬違法行爲。

加州總檢察長辦公室就 xAI 涉嫌濫用 Grok 技術對其提起訴訟

本週早些時候，加州總檢察長辦公室宣佈，由於有指控稱這家初創公司的聊天機器人Grok被用於製作未經同意的女性和兒童不雅照片，因此正在對xAI展開調查。作爲回應，政府已向該公司發出停止侵權通知函。

“今天，我已向xAI發出停止侵權通知函，要求該公司立即停止製作和傳播深度僞造視頻、未經同意的私密照片以及非法虐童材料。製作此類材料屬於違法行爲。我完全相信xAI會立即遵守規定。加州對非法虐童圖像採取零容忍態度。”

——羅伯·邦塔，加利福尼亞州總檢察長。

總檢察長辦公室進一步斷言，xAI似乎正在“助長大規模製作”未經同意的不雅照片，這些照片隨後“被用於在互聯網上騷擾婦女和女孩”。據總檢察長辦公室稱，一項研究發現，在聖誕節和新年期間，xAI製作的2萬張照片中，超過一半的照片顯示人物衣着暴露，其中一些人看起來像孩子。.

羅布·邦塔在公告， 該公司的行爲違反了加利福尼亞州民法，包括加利福尼亞州民法典第 1708.86 條、加利福尼亞州刑法典第 311 條及後續條款和第 647(j)(4) 條，以及加利福尼亞州商業和職業法典第 17200 條。

加州司法部預計 xAI 將在未來五天內重申其解決這些問題的努力，並立即採取行動解決這些問題。.

然而，X平臺的安全賬號此前曾譴責過此類用戶行爲。1月4日，該賬號澄清，對於X平臺上的非法內容，例如兒童性虐待材料（CSAM），X會採取行動，包括刪除內容、無限期封禁賬號defi並在必要時與執法部門和地方政府合作。

值得注意的是，1 月 4 日，埃隆·馬斯克警告說，任何使用Grok他人創建非法內容的人都將面臨與上傳非法內容相同的後果。

各州總檢察長加大對人工智能公司在兒童安全問題上的施壓

免費生成式人工智能工具的發展導致未經同意的成人內容數量激增，令人不安。這個問題困擾着多個平臺，而不僅僅是X平臺。.

例如，去年 9 月，美國司法部長邦塔和特拉華州司法部長詹寧斯與 OpenAI 會面，表達了他們對越來越多的有關 OpenAI 產品如何與青少年互動的報道的嚴重關切。

同年8月，在有報道稱人工智能聊天機器人與兒童存在不當互動後，紐約州總檢察長邦塔與其他44位總檢察長聯名致信12家領先的人工智能公司。這些公司包括Anthropic、蘋果、Chai AI、谷歌、Luka Inc.、 Meta 、微軟、Nomi AI、OpenAI、Perplexity AI、Replika和xAI。

邦塔總檢察長和其他44位總檢察長在致各公司的信中告知，全國各州都在密切關注這些公司如何制定人工智能安全政策。他們還強調，這些企業對作爲消費者的兒童負有法律責任，因爲它們從兒童使用其產品中獲利。. 

2023 年，邦塔總檢察長加入了由 54 個州和地區組成的兩黨聯盟，向國會領導人發出了一封信，倡導成立一個專家委員會，調查利用人工智能通過兒童性虐待材料剝削兒童的可能性。. 

該聯盟要求專家委員會提出法律建議，以保護兒童免受此類虐待。美國司法部指出，“製作兒童性虐待材料會永久記錄兒童遭受的侵害。”

不要只閱讀加密貨幣新聞。瞭解它。訂閱我們的新聞通訊。免費。