
克里斯·博伊德在北卡羅來納州遭遇暴風雪後被困在家中,這時他決定試用一款名爲OpenClaw的人工智能工具。他覺得這款工具可以幫助他安排早晨的時間。他設置了每天早上5:30向他的郵箱發送新聞摘要。這部分功能運行正常。然後,他又讓它接入了iMessage。.
緊接着,一切都崩潰了。OpenClaw 開始瘋狂地發送消息,簡直像瘋了一樣。它向他、他的妻子,甚至通訊錄裏的陌生人發送了 500 多條消息。博伊德笑不出來。.
他關閉了程序,修改了代碼,然後說:“這不是程序有漏洞,而是很危險。”
博伊德稱這款軟件“半成品”,並表示它看起來像是草率拼湊而成,缺乏深思熟慮。他親自修補了代碼,以防止其造成更大的破壞。但並非只有他一人對這款工具提出質疑。.
這款人工智能代理,最初名爲 Clawdbot,後來改名爲 Moltbot,從去年 11 月開始就吸引了不少粉絲。它可以完成一些簡單的任務,比如清理收件箱、預訂晚餐和辦理登機手續。它幾乎不需要人工干預,就能自動運行。這正是它吸引人的地方,也是它危險的地方。.
卡西米爾·舒爾茨就職於一家名爲HiddenLayer的公司,該公司專注於人工智能安全。卡西米爾表示,OpenClaw是他所謂的“致命三重奏”的完美例證。
它能訪問私人數據,能與外界通信,還能讀取未知內容。這簡直就是災難的全部要素,而OpenClaw恰恰具備了所有這些要素。.
威廉瑪麗學院計算機科學教授嶽曉表示,可以通過OpenClaw竊取他人數據,方法是利用一種名爲“提示注入”的欺騙手段。這種手段是指黑客將惡意命令隱藏在看似正常的消息中。嶽曉指出,這類技術爲大多數人尚未做好準備的新型攻擊打開了方便之門。
OpenClaw 的創始人彼得·斯坦伯格表示,該項目尚未完成。他在一封發給彭博社的電子郵件中寫道:“它還沒完成,但我們正在朝着目標前進。”
彼得說,由於它是開源的,任何人都可以查看代碼並參與開發。他表示,項目正在取得進展,但尚未準備好面向普通用戶。.
彼得認爲發佈時間並不算早。他說他做事都是公開透明的,不相信非要等到完美才發佈。他還說,很多問題都是因爲用戶沒有閱讀安裝說明造成的。.
Peter明確指出,使用大型語言模型時,不存在百分之百的安全保障。他說,OpenClaw是爲那些瞭解自己在做什麼並理解相關風險的人設計的。.
他還表示,提示注入並非他工具獨有的問題,而是人工智能領域普遍存在的問題。彼得說,他已經聘請了一位安全專家來幫助修復這些問題,使OpenClaw更加安全。.
儘管彼得爲他構建OpenClaw的方式辯護,但其他專家表示,整個人工智能代理的發展趨勢正在失控。紐約大學網絡安全專家兼教授賈斯汀·卡波斯表示,一旦這些工具運行起來,就很難控制它們。.
賈斯汀說:“我們不明白他們爲什麼要這樣做。”他把讓人工智能代理訪問你的系統比作把一把屠刀交給一個蹣跚學步的孩子。.
科技界正競相推出新工具。Anthropic公司的Claude Code僅用了六個月就實現了10億美元的營收。.
與此同時,負責保障這些工具安全的人員仍在摸索基本安全措施。賈斯汀表示,各公司不斷髮布更新,安全團隊根本跟不上。.
網絡安全公司Armis的Michael Freeman表示,OpenClaw是在沒有任何真正安全計劃的情況下倉促開發的。他說,Armis的一些客戶已經遭受了OpenClaw攻擊,但他沒有透露具體細節。Michael表示,如果企業想要繼續使用像OpenClaw這樣的AI工具,就必須放棄一些控制權。.
現在的問題是,這場災難過後,人們是否還會繼續使用OpenClaw。這款工具確實有一些擁躉,但即使是他們也意識到,沒有安全的自由是行不通的。除非迅速做出改變,否則OpenClaw很可能成爲又一個科技發展過快、最終走向失敗的例子。.
在關鍵領域脫穎而出。在Cryptopolitan Research 上投放廣告,觸達加密貨幣領域最敏銳的投資者和建設者。