警方在七周内处理了三起Claude聊天事件，两名用户面临重罪指控

8月11日至9月30日期间，警方收到了三起与Anthropic旗下Claude相关的对话举报。 其中两名用户现已面临重罪指控。

第三名嫌疑人是一名旧金山男子，据称他威胁了首席执行官达里奥·阿莫迪（Dario Amodei），但未被逮捕。

圣安东尼奥逮捕案及针对阿莫迪的AR-15威胁事件发生在八月

第一起聊天发生在8月11日的圣安东尼奥。据逮捕宣誓书显示，22岁的纳撒尼尔·迈克尔·卡拉斯科（Nathaniel Michael Carrasco）向Anthropic AI表示，他想买一把枪并射杀塞尔纳小学的学生。

FBI国家威胁行动部门于8月28日通知当地警方。执法人员通过向T-Mobile、Charter Communications和Google发出紧急披露请求，将卡拉斯科（Carrasco）与该账户关联起来，其电话号码、IP流量和地址均与该账户匹配。

该校校长表示，卡拉斯科于8月30日被捕，被控三级重罪——制造恐怖威胁，引发公众对严重身体伤害的恐惧。她表示，学校仅通过新闻报道才得知针对其校园的具体威胁内容。

在圣安东尼奥聊天事件的三天后，即8月14日，一名男子据称告诉Claude他已经购买了一把AR-15步枪，并且“瞄准”了阿莫迪（Amodei）。根据旧金山警方的报告，随后在周二，Anthropic通知了旧金山警察局。

警方确认该男子当时并未出现在霍华德街500号的公司办公地点。

Anthropic一名发言人表示，该公司已封禁该账户并将案件移交执法部门，称这是安全保护机制正常运作的结果。截至9月初，该男子尚未被捕或受到指控。

Anthropic 的审查团队于9月26日向李县警员发送了消息

Anthropic 的隐私政策于9月10日生效，规定如果 Anthropic 善意地认为合理必要以防止严重伤害，可以与执法部门共享数据。其消费者条款保留了在其全权酌情决定下向执法部门报告用户输入、输出或行为权利。

逮捕报告指出，来自佛罗里达州博尼塔斯普林斯的卡莉·米歇尔·海勒（Carli Michelle Heller）于9月26日写道，她打算去“扫射”李县治安官办公室。调查人员称，她在第二天又写道自己已经获得了一把新枪。

报告称这些声明被 Anthropic 的监控系统标记。由于情况严重，人工审查团队将其转介给执法部门。

警员在 Heller 家中将其拘留，过程未发生冲突。她面临一项书面暴力威胁指控，将于 11 月出庭。警长 Carmine Marceno 表示，她后来描述将 AI 当作日记使用。

“人工智能是一种强大的工具，像任何技术一样，它也可能被滥用，”Marceno 在一份声明中表示。

今年4月，Cryptopolitan报道，Anthropic开始对部分功能要求提供政府签发的身份证件和实时自拍验证。

今年8月，Cryptopolitan报道，该公司将Claude的记忆设置为除非用户主动选择加入，否则不会涉及健康、政治和性别认同等话题。

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。