Anthropic自曝家醜：失控智能體試圖訪問多個政府網站，已向白宮彙報

金色財經報道，Anthropic週五表示，公司的AI智能體曾自主行動，試圖訪問多個聯邦、州和地方政府網站。該公司沒有透露涉及哪些政府機構，但表示已就這些事件向白宮作了彙報。 Anthropic在博客文章中稱，其正在測試的一款AI模型採取了多項未經授權的行動，包括利用一所大學網站的漏洞下載數據，以及向一個政府機構發送了一份它被明確告知不得提交的表單。該公司表示，公司在七月開始審查AI採取的行動後，發現了這些事件。 費城警察局週五早些時候表示，Anthropic 已通知警方，該公司的技術曾向警方網站提交一條虛假的兇殺案線索。