韓國監管機構對xAI聊天機器人Grok展開監管審查

韓國政府正考慮對埃隆·馬斯克旗下xAI公司開發的生成式人工智能（AI）聊天機器人Grok採取監管行動。此前，該聊天機器人因其參與生成和傳播色情深度僞造圖像而受到多項批評。.

當地新聞媒體《電子時報》報道了這一消息tron在縣內多人舉報相關指控後，個人信息保護委員會 (PIPC) 已對 Grok 展開初步事實調查

初步程序是確認違規行爲是否實際發生以及該事項是否在其管轄範圍內，然後才能啓動正式調查。.

韓國政府將對格羅克進行審查

據報道，此次審查源於國內外多份報告的出現，這些報告指控 Grok被用於製作露骨且未經同意的深度僞造圖像，其中大多數涉及真實人物和未成年人。

據報道，PICP將在審閱Grok提供的解釋和其他佐證文件後，決定下一步行動。該機構預計還將審視全球監管趨勢，這些趨勢將影響其決策。.

根據《個人信息保護法》，dent同意更改或生成可識別個人的性圖像可能構成非法處理個人數據。.

自去年以來，集成到社交平臺 X 中的人工智能聊天機器人因被指控僞造真人照片而飽受詬病。這些聊天機器人利用其生成各種不雅照片，引發了公衆的強烈不滿。.

據全球非政府組織“打擊數字仇恨中心”估計，在 2025 年 12 月 29 日至 2026 年 1 月 8 日期間，Grok 被用於生成超過 300 萬張色情圖片。.

該組織聲稱，在這些圖片中，超過23000張是使用聊天機器人生成的未成年人圖片。該中心警告說，Grok人工智能生成的圖片迅速傳播，導致大量露骨內容在網絡上流傳。.

監管機構要求提交一份關於爲遏制這一威脅而採取的措施的報告。

該中心還警告稱，這項開發對兒童構成嚴重的安全風險。由於這種威脅，美國、英國、法國、加拿大等國已展開調查，而印度尼西亞、菲律賓和馬來西亞等國則已禁止訪問Grok。

針對這場爭議，xAI 今年早些時候宣佈，它已採取某些技術措施來防止此類事件發生。.

該平臺聲稱已阻止免費用戶和付費用戶編輯或生成真人圖像，並補充說，將很快宣佈進一步的安全保障措施。.

1月14日，韓國媒體與通信委員會（KMCC）要求X公司tron對青少年的保護措施。韓國監管機構告知該社交媒體平臺，其人工智能公司需要制定計劃，以防止生成非法或有害內容。.

此外，監管機構還補充說，該公司需要限制未成年人訪問此類內容。.

目前，X平臺已依法在韓國設立青少年保護專員，並提交相關合規年度報告。韓國媒體協調中心（KMCC）敦促該平臺提交更多關於Grok安全協議的文件，並指出，在其平臺上創建和傳播未經同意的性圖像，尤其是涉及未成年人的性圖像，在韓國屬於刑事犯罪。.

委員會設定了兩週的期限。如果X公司未能回應或無視要求，委員會可能對其處以最高1000萬韓元（約合6870美元）的行政罰款。其他國家也採取了類似措施，要求xAI公司提出遏制網絡犯罪蔓延的措施。.

與韓國一樣，這些國家也宣佈，如果公司未能制定並提交一份報告，說明其爲遏制這種威脅的加劇而採取的措施，將處以鉅額罰款。.

想讓你的項目出現在加密貨幣領域的頂尖人才面前嗎？歡迎在我們的下一份行業報告中進行專題報道，讓數據與影響力相遇。