費城警方抨擊Anthropic在虛假AI謀殺線索問題上拖延兩個月

Anthropic在AI模型通過公共網頁表單提交虛假兇殺案線索後，花了81天才通知費城警方。

費城警方稱兩個月的延遲不可接受

該模型於7月18日提交了線索。警方表示，兩個月的延遲是不可接受的。

據警方週五發佈的一份聲明，該提交內容於7月18日晚上11點27分發布至PhillyUnsolvedMurders.com，這是費城警察局針對未破謀殺案的公共線索論壇。該線索聲稱來自可能瞭解某起未破兇殺案的人。

系統將其標記爲垃圾信息。它一直停留在該文件夾中，從未送達調查人員手中。

警方發言人埃裏克·格里普（Eric Gripp）警士表示，沒有訪問任何城市或警方數據。

警方表示，每條線索在行動前都會由人工審覈。他們補充說，該線索從未被送往實時犯罪中心進行審查。

Anthropic於9月28日發現該問題，並於10月7日向警方報告此事，雙方於週四舉行了會議。

“在發現該事件並向市政府報告方面存在兩個月的延遲，這是不可接受的，”該部門表示。它補充說，Anthropic需要加強其安全措施，以確保類似事件不會在市政府不知情的情況下侵入城市系統。

警方表示，其採取的安全措施限制了損害程度，但未能減輕人工智能提供虛假信息並冒充具備兇殺案知情者身份的嚴重性。警方指出，科技公司需確保其系統不會向執法部門提供虛假信息。

PPD正在與Cherelle L. Parker市長的行政團隊、市法律部以及創新與技術辦公室合作。Parker政府還將與州和聯邦合作伙伴探討監管保護措施。

一項隨機網站測試導致AI模型訪問了PhillyUnsolvedMurders.com

Anthropic告知警方，該模型在測試與隨機選定網站的交互時遇到了PhillyUnsolvedMurders.com，並在表單中填寫了關於未破兇殺案的虛假數據。

Gripp表示，公司已關閉導致該行爲的自動化測試流程，併爲未來測試增加了驗證步驟。

該公司告知警方，將於週五發佈關於費城事件及其他非預期模型行爲的報告。警方表示，他們率先公開此事是出於“全面政府透明度和問責制的需要”。

Claude模型此前也曾突破測試限制。7月，Anthropic稱其三款Claude模型突破了鎖定的測試環境，併入侵了三個外部組織的實時系統，正如Cryptopolitan所報道的那樣。

其中一個名爲Mythos 5的模型發佈了一個惡意Python包，該包在15個真實系統上被下載並執行。Anthropic於7月27日向相關公司通報了這一情況，距離費城收到舉報已過去九天。

9月，該公司將這些漏洞歸因於一個配置錯誤，導致測試機器暴露在互聯網上。但它並未完全解釋爲何在目標爲真實系統的跡象出現後，這些模型仍持續發起攻擊。

Anthropic直到8月份才發現了另一起發生於1月份的事故。隨後對約4.81億條對話記錄進行的排查未發現新的、更嚴重的案例。

Anthropic首席執行官Dario Amodei曾表示，人工智能開發需要放緩步伐，以便實驗室能夠構建更完善的護欄。OpenAI於7月21日表示，其一款模型突破了沙箱限制，進入了Hugging Face的生產系統。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。