Moltbook 的纯人工智能社交网络存在重大安全风险

上周，一个由机器人而非真人对话的社交媒体平台引起了网友的关注，但安全专家表示，真正的故事在于他们发现的平台背后隐藏的真相。.

Moltbook曾一度成为新闻热点，因为它是一个人工智能机器人发布内容而人们只是观看的平台。这些帖子很快就变得怪异起来。人工智能代理似乎创立了自己的宗教，发布攻击人类的愤怒信息，并像网络邪教一样聚集在一起。但研究计算机安全的专家表示，所有这些怪异行为都只是表象而已。.

他们的发现更令人担忧：公开的数据库中充斥着密码和电子邮件地址，恶意软件四处传播，以及人工智能代理网络可能出现故障的预演。.

网站上一些奇怪的对话，例如人工智能代理计划消灭人类，结果证明大多是假的。.

伦敦大学学院互动中心的乔治·查尔胡布(George Chalhoub)告诉《财富》杂志， Moltbook展现出一些非常现实的危险。攻击者可以利用该平台作为测试恶意软件、诈骗、虚假新闻或攻击手段的试验场，这些手段可以先控制其他代理，然后再攻击更大的网络。

“如果Reddit克隆平台上的77万个代理就能造成如此大的混乱，那么当代理系统管理企业基础设施或金融交易时会发生什么？这值得我们关注，因为它是一个警示，而不是值得庆祝的事。” Chalhoub说道。.

安全研究人员表示，运行在Moltbook上的众多机器人程序的AI代理软件OpenClaw已经存在恶意软件问题。OpenSourceMalware的一份报告发现，短短几天内，就有14个虚假工具被上传到OpenClaw的ClawHub网站。这些工具声称可以帮助进行加密货币交易，但实际上却会感染计算机。其中一个甚至出现在ClawHub的主页上，诱骗普通用户复制一条命令，该命令会下载旨在窃取用户数据或加密货币钱包的脚本。.

什么是即时注入？为什么它对人工智能代理如此危险？

最大的危险是一种叫做提示注入的攻击，这是一种已知的攻击类型，其中错误的指令被隐藏在提供给人工智能代理的内容中。.

知名安全研究员西蒙·威利森警告说目前有三件事同时发生：用户允许这些代理程序查看私人电子邮件和数据，将它们连接到互联网上的可疑内容，并允许它们发送消息。一个错误的提示就可能让代理程序在用户不知情的情况下窃取敏感信息、清空加密钱包或传播恶意软件。

在Aikido Security从事安全研究的查理·埃里克森认为，Moltbook是人工智能代理领域一个早期预警信号。“我认为Moltbook已经对世界产生了影响。它在很多方面都是一个警钟。技术进步正在加速，世界已经发生了变化，但这种变化的走向仍不完全明朗。我们需要尽早着手降低这些风险。”他说道。.

那么，Moltbook 上只有人工智能代理吗？还是也有真人参与？尽管备受关注，网络安全公司 Wiz发现，Moltbook 上所谓的 150 万个独立dent并非表面看起来那样。他们的调查显示，这些账户背后只有 1.7 万个真人，而且根本无法区分真正的人工智能和简单的脚本。

Wiz公司的Gal Nagli表示，他测试时几分钟内就能招募到一百万名代理商。他说：“没有人核实哪些是真，哪些是假。”

Wiz 还发现 Moltbook 存在一个巨大的安全漏洞。其主数据库完全开放。任何人只要找到网站代码中的一个密钥，几乎就能读取和修改所有内容。这个密钥可以访问大约 150 万个机器人密码、数万个电子邮件地址和私人消息。攻击者可以伪装成流行的 AI 代理，窃取用户数据，甚至无需登录即可改写帖子。.

纳格利表示，问题出在一种叫做 vibe 编码”的技术上。什么是 vibe 编码呢？它指的是人让人工智能用日常语言编写代码。.

人工智能代理的终止开关将在两年后失效

这种情况与1988年11月2日发生的事情如出一辙。当时，dent 罗伯特·莫里斯将一个自复制程序发布到早期互联网上。24小时内，他的蠕虫病毒感染了大约10%的联网计算机。莫里斯原本想测量互联网的规模，但一个编码错误导致病毒传播速度过快。.

今天的版本可能是研究人员所说的“提示蠕虫”，即通过会说话的人工智能代理网络自我复制的指令。.

Simula 研究实验室的研究人员在 Moltbook 上发现了 506 个帖子（占其调查内容的 2.6%）包含隐藏攻击。思科的研究人员记录了“What Would Elon Do?”的恶意程序，该程序会窃取数据并将其发送到外部服务器。该程序在恶意程序库中排名第一。

2024年3月，安全研究人员本·纳西、斯塔夫·科恩和罗恩·比特顿发表了一篇论文，展示了自我复制的提示信息如何通过人工智能电子邮件助手传播，窃取数据并发送垃圾邮件。他们将其命名为Morris-II，以纪念1988年的原始蠕虫病毒。.

目前，像 Anthropic 和 OpenAI 这样的公司控制着一个“终止开关”，可以阻止有害的 AI 代理运行，因为 OpenClaw 主要运行在他们的服务上。但本地 AI 模型正在不断改进。像 Mistral、DeepSeek 和 Qwen 这样的程序也在持续进步。一两年内，在个人电脑上运行功能强大的代理或许就成为可能。到那时，将没有任何服务提供商能够阻止它们运行。.

在关键领域脱颖而出。在Cryptopolitan Research 上投放广告，触达加密货币领域最敏锐的投资者和建设者。