
克里斯·博伊德在北卡罗来纳州遭遇暴风雪后被困在家中,这时他决定试用一款名为OpenClaw的人工智能工具。他觉得这款工具可以帮助他安排早晨的时间。他设置了每天早上5:30向他的邮箱发送新闻摘要。这部分功能运行正常。然后,他又让它接入了iMessage。.
紧接着,一切都崩溃了。OpenClaw 开始疯狂地发送消息,简直像疯了一样。它向他、他的妻子,甚至通讯录里的陌生人发送了 500 多条消息。博伊德笑不出来。.
他关闭了程序,修改了代码,然后说:“这不是程序有漏洞,而是很危险。”
博伊德称这款软件“半成品”,并表示它看起来像是草率拼凑而成,缺乏深思熟虑。他亲自修补了代码,以防止其造成更大的破坏。但并非只有他一人对这款工具提出质疑。.
这款人工智能代理,最初名为 Clawdbot,后来改名为 Moltbot,从去年 11 月开始就吸引了不少粉丝。它可以完成一些简单的任务,比如清理收件箱、预订晚餐和办理登机手续。它几乎不需要人工干预,就能自动运行。这正是它吸引人的地方,也是它危险的地方。.
卡西米尔·舒尔茨就职于一家名为HiddenLayer的公司,该公司专注于人工智能安全。卡西米尔表示,OpenClaw是他所谓的“致命三重奏”的完美例证。
它能访问私人数据,能与外界通信,还能读取未知内容。这简直就是灾难的全部要素,而OpenClaw恰恰具备了所有这些要素。.
威廉玛丽学院计算机科学教授岳晓表示,可以通过OpenClaw窃取他人数据,方法是利用一种名为“提示注入”的欺骗手段。这种手段是指黑客将恶意命令隐藏在看似正常的消息中。岳晓指出,这类技术为大多数人尚未做好准备的新型攻击打开了方便之门。
OpenClaw 的创始人彼得·斯坦伯格表示,该项目尚未完成。他在一封发给彭博社的电子邮件中写道:“它还没完成,但我们正在朝着目标前进。”
彼得说,由于它是开源的,任何人都可以查看代码并参与开发。他表示,项目正在取得进展,但尚未准备好面向普通用户。.
彼得认为发布时间并不算早。他说他做事都是公开透明的,不相信非要等到完美才发布。他还说,很多问题都是因为用户没有阅读安装说明造成的。.
Peter明确指出,使用大型语言模型时,不存在百分之百的安全保障。他说,OpenClaw是为那些了解自己在做什么并理解相关风险的人设计的。.
他还表示,提示注入并非他工具独有的问题,而是人工智能领域普遍存在的问题。彼得说,他已经聘请了一位安全专家来帮助修复这些问题,使OpenClaw更加安全。.
尽管彼得为他构建OpenClaw的方式辩护,但其他专家表示,整个人工智能代理的发展趋势正在失控。纽约大学网络安全专家兼教授贾斯汀·卡波斯表示,一旦这些工具运行起来,就很难控制它们。.
贾斯汀说:“我们不明白他们为什么要这样做。”他把让人工智能代理访问你的系统比作把一把屠刀交给一个蹒跚学步的孩子。.
科技界正竞相推出新工具。Anthropic公司的Claude Code仅用了六个月就实现了10亿美元的营收。.
与此同时,负责保障这些工具安全的人员仍在摸索基本安全措施。贾斯汀表示,各公司不断发布更新,安全团队根本跟不上。.
网络安全公司Armis的Michael Freeman表示,OpenClaw是在没有任何真正安全计划的情况下仓促开发的。他说,Armis的一些客户已经遭受了OpenClaw攻击,但他没有透露具体细节。Michael表示,如果企业想要继续使用像OpenClaw这样的AI工具,就必须放弃一些控制权。.
现在的问题是,这场灾难过后,人们是否还会继续使用OpenClaw。这款工具确实有一些拥趸,但即使是他们也意识到,没有安全的自由是行不通的。除非迅速做出改变,否则OpenClaw很可能成为又一个科技发展过快、最终走向失败的例子。.
在关键领域脱颖而出。在Cryptopolitan Research 上投放广告,触达加密货币领域最敏锐的投资者和建设者。