警方在七週內處理了三起Claude聊天事件，兩名用戶面臨重罪指控

8月11日至9月30日期間，警方收到了三起與Anthropic旗下Claude相關的對話舉報。 其中兩名用戶現已面臨重罪指控。

第三名嫌疑人是一名舊金山男子，據稱他威脅了首席執行官達里奧·阿莫迪（Dario Amodei），但未被逮捕。

聖安東尼奧逮捕案及針對阿莫迪的AR-15威脅事件發生在八月

第一起聊天發生在8月11日的聖安東尼奧。據逮捕宣誓書顯示，22歲的納撒尼爾·邁克爾·卡拉斯科（Nathaniel Michael Carrasco）向Anthropic AI表示，他想買一把槍並射殺塞爾納小學的學生。

FBI國家威脅行動部門於8月28日通知當地警方。執法人員通過向T-Mobile、Charter Communications和Google發出緊急披露請求，將卡拉斯科（Carrasco）與該賬戶關聯起來，其電話號碼、IP流量和地址均與該賬戶匹配。

該校校長表示，卡拉斯科於8月30日被捕，被控三級重罪——製造恐怖威脅，引發公衆對嚴重身體傷害的恐懼。她表示，學校僅通過新聞報道才得知針對其校園的具體威脅內容。

在聖安東尼奧聊天事件的三天後，即8月14日，一名男子據稱告訴Claude他已經購買了一把AR-15步槍，並且“瞄準”了阿莫迪（Amodei）。根據舊金山警方的報告，隨後在週二，Anthropic通知了舊金山警察局。

警方確認該男子當時並未出現在霍華德街500號的公司辦公地點。

Anthropic一名發言人表示，該公司已封禁該賬戶並將案件移交執法部門，稱這是安全保護機制正常運作的結果。截至9月初，該男子尚未被捕或受到指控。

Anthropic 的審查團隊於9月26日向李縣警員發送了消息

Anthropic 的隱私政策於9月10日生效，規定如果 Anthropic 善意地認爲合理必要以防止嚴重傷害，可以與執法部門共享數據。其消費者條款保留了在其全權酌情決定下向執法部門報告用戶輸入、輸出或行爲權利。

逮捕報告指出，來自佛羅里達州博尼塔斯普林斯的卡莉·米歇爾·海勒（Carli Michelle Heller）於9月26日寫道，她打算去“掃射”李縣治安官辦公室。調查人員稱，她在第二天又寫道自己已經獲得了一把新槍。

報告稱這些聲明被 Anthropic 的監控系統標記。由於情況嚴重，人工審查團隊將其轉介給執法部門。

警員在 Heller 家中將其拘留，過程未發生衝突。她面臨一項書面暴力威脅指控，將於 11 月出庭。警長 Carmine Marceno 表示，她後來描述將 AI 當作日記使用。

“人工智能是一種強大的工具，像任何技術一樣，它也可能被濫用，”Marceno 在一份聲明中表示。

今年4月，Cryptopolitan報道，Anthropic開始對部分功能要求提供政府簽發的身份證件和實時自拍驗證。

今年8月，Cryptopolitan報道，該公司將Claude的記憶設置爲除非用戶主動選擇加入，否則不會涉及健康、政治和性別認同等話題。

最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。