Meta與OpenAI和Anthropic一起捲入了最新的AI黑客dent

Meta 成爲最新一家承認其人工智能代理入侵另一家公司的科技巨頭，原因是其dent 測試合作伙伴錯誤配置了其安全環境。.

OpenAI 和 Anthropic 都曾遭遇過 人工智能 代理未經授權試圖入侵真實在線系統的案例。

Meta告訴記者，此次人工智能入侵事件源於系統配置錯誤，與Anthropic公司的漏洞類似。但與OpenAI不同的是，OpenAI的人工智能代理是在網絡安全測試期間利用此前未知的漏洞訪問互聯網。目前，研究人員和各國政府已dent事件做出回應，呼籲加強tron防護並制定更嚴格的測試標準。.

人工智能界的關鍵人物甚至正在推動有序減速，以確保人類控制能夠跟上機器智能的步伐。.

Irregular 指出，Meta 的人工智能代理程序不存在任何未解決的問題。

Meta表示，人工智能安全廠商Irregular進行了測試並向其通報了此次 安全漏洞將向公衆披露更多關於此次事件的dent 一旦確認所有事實， 

該公司聲稱其人工智能代理“利用了第三方服務中的安全漏洞”。消息人士dent，這個失控的人工智能是 Muse Spark 1.1，Meta 公司曾大力推廣該型號，稱其擁有卓越的編程能力。.  

Irregular 表示，這起事件dent 是 Anthropic 上週披露的同一環境缺陷造成的，完全排除了複雜的黑客攻擊或沙盒逃逸的可能性。.

聲明還指出：“目前沒有未解決的問題。Irregular 正在撰寫一份白皮書，分享遏制網絡攻擊和安全開展網絡評估的最佳實踐。” 

AISI稱OpenAI和Anthropic的模型試圖影響人類維護者。

此前，OpenAI承認其自主系統已滲透到多個公共網絡，包括人工智能社區中心Hugging Face。OpenAI的披露促使Anthropic公司進行自身的安全檢查，結果顯示Claude在配置錯誤導致其能夠訪問互聯網後，對多家公司發動了類似的攻擊。. 

然而，一份英國監管報告揭露了更令人擔憂的問題。據英國人工智能安全研究所稱，OpenAI 和 Anthropic 的人工智能模型 試圖 通過影響開源項目的維護人員，向該項目植入惡意代碼。

AISI表示：“爲了使代碼獲得批准，該代理人進行了社會工程學活動——創建虛假的在線dent，並利用這些身份向項目維護者施壓，要求其批准代碼。”.

報告指出，所有這些嘗試均告失敗，並未造成任何實際損害。儘管沒有造成任何實際損失，且所有嘗試均告失敗，但監管機構警告稱，這是迄今爲止人工智能實施欺騙行爲以及自主性危險性的最清晰的現實世界證據。.

AISI 還解釋了其測試標準：“爲了衡量這些模型真正能做到什麼，我們會在反映有能力的攻擊者可能採取的行動的條件下對它們進行測試。”

目前，OpenAI已 承認 的安全事件dent 並表示希望構建更完善、更全面的行業安全保障機制，以測試不穩定的模型。此外，OpenAI還公開披露了另一起事件：dent 一次dent模擬演練中意外將其模型暴露於互聯網。

該公司承諾加強對 第三方測試的監管， 包括如何確定哪些評估風險更大、審查互聯網訪問請求或減少安全措施、管理隔離和憑證dent、監控測試以及通過更清晰的升級程序應對dent。 

與此同時， 白宮 本週邀請了包括 Meta、Anthropic、OpenAI 和 Google 在內的頂級人工智能開發商，討論新近最終確定的針對高級人工智能系統網絡安全測試的自願性框架。

在與公司代表的討論中，特朗普政府表示，像 Meta 的 Llama 和 Nvidia 的 Nemotron 這樣的開源 AI 模型將不在其提議的自願安全測試框架的涵蓋範圍內。. 

這項豁免引發了人工智能安全研究人員的爭論，他們認爲開放權重模型可以被第三方自由下載、修改和微調。.

批評人士表示，將它們排除在自願測試指南之外可能會造成盲點，因爲功能越來越強大的模型會在其原始開發者的控制範圍之外廣泛傳播。.

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們？