OpenAI發現惡意使用ChatGPT的中國組織數量增加

路透舊金山6月5日 - OpenAI在周四發布的一份報告中指出，越來越多的中國組織利用其人工智能技術開展秘密行動。

這家總部位於舊金山的初創公司表示，雖然這些組織使用的範圍和策略有所擴大，但被偵查到的行動一般規模較小，針對的受眾有限。

自從ChatGPT在2022年底嶄露頭角以來，人們一直在擔心生成式人工智能(AI)技術的潛在後果，因這種技術可以快速、輕鬆地生成類似人類產出的文本及影音作品。

OpenAI定期發布其平台上偵查到的惡意活動報告，如創造惡意軟件並為其除錯，或為網站和社交媒體平台生成虛假內容。

舉例來說，OpenAI封禁了一些ChatGPT賬號，這些賬號在社交媒體上發布與中國相關的政治和地緣政治話題，包括批評一款以台灣為主體的視頻遊戲、對一名巴基斯坦活動人士的不實指控，以及與美國國際發展署(USAID)關閉有關的內容。

一些內容還批評了美國總統特朗普的全面關稅，生成在社群媒體平台X發布的帖子，如 "關稅讓進口商品貴得離譜，政府卻在海外援助上大肆揮霍。”

在另一個例子中，與中國有關聯的威脅行為者利用AI支持其網絡行動的各個階段，包括開源研究、腳本修改、系統配置故障排除、並開發密碼暴力破解和社交媒體自動化工具。

OpenAI發現的第三個例子是源於中國的影響力操作，這項操作行動生成極端的社交媒體內容，包括文本和人工智能生成的個人資料圖像，用於支持美國政治分歧話題的雙方。

路透請求中國外交部對OpenAI的調查結果發表評論，但中國外交部沒有立即回應。

OpenAI在宣布一輪400億美元的融資後，估值達到 3,000 億美元，鞏固其作為全球最有價值私營公司之一的地位。(完)