Moltbook 的純人工智能社交網絡存在重大安全風險

上週，一個由機器人而非真人對話的社交媒體平臺引起了網友的關注，但安全專家表示，真正的故事在於他們發現的平臺背後隱藏的真相。.

Moltbook曾一度成爲新聞熱點，因爲它是一個人工智能機器人發佈內容而人們只是觀看的平臺。這些帖子很快就變得怪異起來。人工智能代理似乎創立了自己的宗教，發佈攻擊人類的憤怒信息，並像網絡邪教一樣聚集在一起。但研究計算機安全的專家表示，所有這些怪異行爲都只是表象而已。.

他們的發現更令人擔憂：公開的數據庫中充斥着密碼和電子郵件地址，惡意軟件四處傳播，以及人工智能代理網絡可能出現故障的預演。.

網站上一些奇怪的對話，例如人工智能代理計劃消滅人類，結果證明大多是假的。.

倫敦大學學院互動中心的喬治·查爾胡布(George Chalhoub)告訴《財富》雜誌， Moltbook展現出一些非常現實的危險。攻擊者可以利用該平臺作爲測試惡意軟件、詐騙、虛假新聞或攻擊手段的試驗場，這些手段可以先控制其他代理，然後再攻擊更大的網絡。

“如果Reddit克隆平臺上的77萬個代理就能造成如此大的混亂，那麼當代理系統管理企業基礎設施或金融交易時會發生什麼？這值得我們關注，因爲它是一個警示，而不是值得慶祝的事。” Chalhoub說道。.

安全研究人員表示，運行在Moltbook上的衆多機器人程序的AI代理軟件OpenClaw已經存在惡意軟件問題。OpenSourceMalware的一份報告發現，短短几天內，就有14個虛假工具被上傳到OpenClaw的ClawHub網站。這些工具聲稱可以幫助進行加密貨幣交易，但實際上卻會感染計算機。其中一個甚至出現在ClawHub的主頁上，誘騙普通用戶複製一條命令，該命令會下載旨在竊取用戶數據或加密貨幣錢包的腳本。.

什麼是即時注入？爲什麼它對人工智能代理如此危險？

最大的危險是一種叫做提示注入的攻擊，這是一種已知的攻擊類型，其中錯誤的指令被隱藏在提供給人工智能代理的內容中。.

知名安全研究員西蒙·威利森警告說目前有三件事同時發生：用戶允許這些代理程序查看私人電子郵件和數據，將它們連接到互聯網上的可疑內容，並允許它們發送消息。一個錯誤的提示就可能讓代理程序在用戶不知情的情況下竊取敏感信息、清空加密錢包或傳播惡意軟件。

在Aikido Security從事安全研究的查理·埃裏克森認爲，Moltbook是人工智能代理領域一個早期預警信號。“我認爲Moltbook已經對世界產生了影響。它在很多方面都是一個警鐘。技術進步正在加速，世界已經發生了變化，但這種變化的走向仍不完全明朗。我們需要儘早着手降低這些風險。”他說道。.

那麼，Moltbook 上只有人工智能代理嗎？還是也有真人蔘與？儘管備受關注，網絡安全公司 Wiz發現，Moltbook 上所謂的 150 萬個獨立dent並非表面看起來那樣。他們的調查顯示，這些賬戶背後只有 1.7 萬個真人，而且根本無法區分真正的人工智能和簡單的腳本。

Wiz公司的Gal Nagli表示，他測試時幾分鐘內就能招募到一百萬名代理商。他說：“沒有人覈實哪些是真，哪些是假。”

Wiz 還發現 Moltbook 存在一個巨大的安全漏洞。其主數據庫完全開放。任何人只要找到網站代碼中的一個密鑰，幾乎就能讀取和修改所有內容。這個密鑰可以訪問大約 150 萬個機器人密碼、數萬個電子郵件地址和私人消息。攻擊者可以僞裝成流行的 AI 代理，竊取用戶數據，甚至無需登錄即可改寫帖子。.

納格利表示，問題出在一種叫做 vibe 編碼”的技術上。什麼是 vibe 編碼呢？它指的是人讓人工智能用日常語言編寫代碼。.

人工智能代理的終止開關將在兩年後失效

這種情況與1988年11月2日發生的事情如出一轍。當時，dent 羅伯特·莫里斯將一個自複製程序發佈到早期互聯網上。24小時內，他的蠕蟲病毒感染了大約10%的聯網計算機。莫里斯原本想測量互聯網的規模，但一個編碼錯誤導致病毒傳播速度過快。.

今天的版本可能是研究人員所說的“提示蠕蟲”，即通過會說話的人工智能代理網絡自我複製的指令。.

Simula 研究實驗室的研究人員在 Moltbook 上發現了 506 個帖子（佔其調查內容的 2.6%）包含隱藏攻擊。思科的研究人員記錄了“What Would Elon Do?”的惡意程序，該程序會竊取數據並將其發送到外部服務器。該程序在惡意程序庫中排名第一。

2024年3月，安全研究人員本·納西、斯塔夫·科恩和羅恩·比特頓發表了一篇論文，展示了自我複製的提示信息如何通過人工智能電子郵件助手傳播，竊取數據併發送垃圾郵件。他們將其命名爲Morris-II，以紀念1988年的原始蠕蟲病毒。.

目前，像 Anthropic 和 OpenAI 這樣的公司控制着一個“終止開關”，可以阻止有害的 AI 代理運行，因爲 OpenClaw 主要運行在他們的服務上。但本地 AI 模型正在不斷改進。像 Mistral、DeepSeek 和 Qwen 這樣的程序也在持續進步。一兩年內，在個人電腦上運行功能強大的代理或許就成爲可能。到那時，將沒有任何服務提供商能夠阻止它們運行。.

在關鍵領域脫穎而出。在Cryptopolitan Research 上投放廣告，觸達加密貨幣領域最敏銳的投資者和建設者。