Openai報告中國鏈接的錯誤信息組的CHATGPT越來越多

Openai透露，祕密使用其工具，尤其是與中國羣體相關的，這些中國團體由於惡意原因而利用其Chatgpt平臺。

自Chatgpt於2022年11月推出即時成功以來，人們一直擔心其潛在的後果基於其產生類似人類的音頻，文本，圖像和視頻的能力。 Openai定期發佈了有關其平臺上任何惡意活動的報告，例如For Websites的虛假內容。

Openai拆除10個單獨的廣告系列，濫用其工具

這家總部位於舊金山的公司在週四發佈的一份報告中透露，它最近拆除了十項單獨的廣告系列，利用其AI工具。其中，有四個是由與中國相關的團體安排的，而較小規模的計劃與其他國家相關。

根據Ben Nimmo，這些與中國有聯繫的運營在多個在線場所中部署了廣泛的戰術。

他告訴記者：“我們正在觀察一個不斷擴大的工具包。”

“一些活動融合了影響運營，社會工程和監視，他們跨越了從Tiktok和X到Reddit和Facebook的平臺。”

Nimmo。

冷笑評論的主要示例之一，使用Chatgpt推出了英語，中文和烏爾都語的簡短帖子和評論。這些涵蓋的主題，例如美國國際發展機構解散，交替鼓掌和批評這一決定，並批評臺灣戰略視頻遊戲，以攻擊中國執政黨。

根據Openai的報告，在大多數情況下，該操作不僅創建了原始帖子，還會創建回答，使其看起來像是“真正的”辯論。同一小組還創建了一篇長格式的文章，聲稱對該遊戲進行了廣泛的公衆騷動。

“冷笑評論”還使用Chatgpt來起草內部文檔和績效評論，詳細介紹了廣告系列執行的每個步驟。 OpenAI的分析師發現，實際的社交媒體行爲緊密地呼應了這些自我評估，強調了AI如何簡化前線影響和後臺管理。

該報告還表明，與中國有關的另一個網絡專注於情報收集，假裝是記者和地緣政治評論員。他們使用聊天機器人在X上創建帳戶傳記，翻譯中文和英語之間的通信，甚至創建了針對美國參議員關於聯邦提名的消息。

來自其他國家的小組也濫用了Openai的工具

該報告還指出，俄羅斯和伊朗演員還試圖將Chatgpt用於與選舉有關的影響力，這與對生成AI在塑造公衆輿論中的作用的關注相呼應。

在菲律賓，一家商業營銷裝置與垃圾郵件活動相連，而招聘騙局的鏈接也浮出水面。該公司還標記了另一項具有朝鮮利益的就業倡議。

所有這些威脅恰逢2月起的先前報告，在該報告中，Openai發現了一項與中國相關的監視計劃。據報道，這項運動實時監視了西方抗議活動，對中國安全機構進行了摘要，Chatgpt促進了從代碼調試到起草銷售銷量以進行監視軟件的一切。

Nimmo表示，儘管它們似乎使用了複雜的工具，但其中大多數這些操作都被檢測到並停止了。

他觀察到：“先進的AI不一定會轉化爲更有效的結果。”確實，OpenAI的常規威脅報告表明，儘管生成模型可以加速創建內容，但它們不能保證真正的影響力或廣泛的 trac。

爲了回應這些發現，OpenAI繼續完善其監控和執行機制。該公司禁止與檢測到的操作相關的帳戶，並刪除所有參與創建惡意軟件，自動化政治信息或誤導性內容的帳戶。

Openai在其最新一輪中刪除了與中國有關的地緣政治爭議，包括針對巴基斯坦激進主義者的虛假指控以及有關特朗普的關稅政策的評論。

儘管Openai取得了成功，但該公司還承認了生成AI的雙刃本質，作爲創新的工具，也是虛假信息的工具。

鑰匙差線：祕密工具加密項目用於獲得保證媒體覆蓋