來自俄羅斯、伊朗、朝鮮和中國的國家級黑客僅將人工智能用於基本任務。

科技公司和政府官員不斷警告人工智能可能成爲外國敵人的危險武器，但新的證據卻揭示了不同的情況。近期報告顯示，國家支持的組織也在使用與普通互聯網用戶相同的公開工具，而且往往面臨同樣的困境。

OpenAI 近日公佈了與政府有關聯的團體試圖利用其平臺的一些細節。

最引人注目的案例源於一起中國影響力行動，該行動dent曝光。這名官員在日記中記錄了一項針對居住在其他國家的中國批評人士的行動。

據 OpenAI 稱，該活動涉及數百名運營者和數千個虛假社交媒體帳戶。

該行動試圖冒充美國移民官員，謊稱一名異見人士的公開言論違反了美國法律，以此恐嚇dent 。在其他案例中，行動人員使用僞造的、聲稱來自縣法院的文件，試圖關閉批評者的社交媒體賬戶。.

虛假訃告和僞造文件是騷擾活動的一部分

他們僞造訃告和墓碑照片，散佈關於一名異議dent死亡的謠言。美國之音一篇中文報道證實，這些謠言實際上在2023年就已出現稱這是通過多種渠道對中國共產黨批評者進行工業化騷擾。

使用 ChatGPT 作爲記錄工具最終暴露了行動。ChatGPT 充當了行動人員追蹤trac傳播的實際內容發現這一活動後封禁了該用戶

OpenAI 的調查人員將 ChatGPT 用戶的描述與真實的在線活動進行了比對。該用戶描述了自己僞造一名中國異見dent的死亡，方法是創建虛假的訃告和墓碑照片併發布到網上。.

另一起案例中，ChatGPT 用戶要求系統制定計劃，通過煽動民衆對美國關稅的不滿來損害即將上任的日本首相高市早苗的聲譽。ChatGPT 拒絕了這一請求。但在一個日本漫畫家聚集的熱門論壇上出現了標籤

OpenAI 的報告還涵蓋了柬埔寨利用該平臺進行愛情和投資詐騙的幾起詐騙活動，以及與俄羅斯有關的針對阿根廷和非洲的影響力活動。

微軟的報告顯示了類似的基本使用模式

微軟與OpenAI聯合發佈了一份獨立報告，探討了朝鮮、伊朗和中國等國家行爲體如何嘗試利用大型語言模型來支持網絡攻擊行動。兩家公司關閉了五個與國家有關聯的行爲體的賬戶，從而阻止了它們的攻擊活動。

微軟的報告發現，這些攻擊者主要希望利用服務完成一些簡單的任務，例如搜索公開信息、翻譯內容、修復代碼錯誤以及運行基本的編程任務。目前尚未發現利用這些模型發起的重大或新型攻擊。

恐懼與現實之間的差距，圍繞這項技術控制權的激烈這項在軍事和經濟領域扮演的角色，已成爲雙方爭奪。五角大樓最近告知另一家公司Anthropico ，必須在週五之前從其產品中移除某些安全功能，否則將面臨失去國防合同的trac。

微軟表示，他們正在制定相關原則，以降低國家行爲體和犯罪組織濫用這些工具帶來風險查找並阻止惡意用戶、告知其他服務提供商、合作以及保持透明。

最頂尖的加密貨幣專家都在閱讀我們的簡報。想加入他們？