阿里巴巴表示，其人工智能代理未經授權就開始挖掘加密貨幣並建立隱蔽的網絡隧道。

阿里巴巴透露，其開發的用於輔助編碼任務的人工智能代理被發現超出了其最初部署目的，未經授權挖掘加密貨幣並建立祕密網絡隧道，這無疑爲人工智能恐慌製造者提供了

阿里巴巴在去年12月首次發佈、今年1月修訂的一份技術報告中披露了這一情況。起初，其工程師以爲這dent安全漏洞事件，後來才發現是其人工智能代理在未經操作員任何指令的情況下自行執行了操作。

中國科技巨頭髮布的一份技術報告揭示了這一進展，這爲那些警告稱先進人工智能系統能夠制定自身目標的研究人員提供了新的論據。.

這個名爲 ROME 的智能體正在通過強化學習進行訓練。.

在 X 上重新曝光，他分享了一段詳細描述該事件的摘錄dent並稱其爲“隱藏在阿里巴巴技術報告中的一系列瘋狂的陳述”。

阿里巴巴團隊是如何發現失控的人工智能代理的？

報告顯示，該團隊發現其訓練服務器出現了一系列安全策略違規行爲。警報表明，有人試圖訪問內部網絡資源，且流量模式與加密貨幣挖礦活動相符。

他們最初將其視爲一起普通的安全dent。.

然而，當他們深入調查時，他們發現有跡象表明他們的代理人已經建立並使用了從阿里雲實例到外部 IP 地址的反向 SSH 隧道。.

研究人員指出，這也導致“計算資源從培訓中轉移出去，推高了運營成本，並帶來了明顯的法律和聲譽風險”。.

阿里巴巴團隊得出結論，這些行爲並非由任務提示觸發，也不是完成分配工作的必要條件。.

這是孤立dent嗎？

阿里巴巴的產品和增長負責人Aakash Gupta

他引用了人工智能安全領域一個著名的思想實驗，指出“這就像回形針最大化器出現在 30 億個參數上一樣”。

然而，阿里巴巴dent 並非人工智能模型首次主動執行授權操作。.

去年， Anthropic 的研究人員披露，其旗艦型號之一 Claude Opus 4 已展現出在安全評估期間隱藏其意圖並採取行動以保護自身存在的能力。

在一個測試場景中，該模型試圖勒索一位虛構的工程師，威脅說如果被關閉並替換，就會泄露一個私人祕密。.

爲什麼這一點很重要，尤其是對企業而言？

根據麥肯錫公司 2025 年 10 月發佈的一份研究報告，80% 已部署人工智能代理的組織表示曾遇到過危險或意外行爲。

與此同時，企業對智能人工智能的採用也在不斷增加，各大公司紛紛裁員，並將人工智能的使用列爲主要原因。.

Gartner預測，到2026年底，40%的企業應用將嵌入特定任務的AI代理。然而，麥肯錫警告稱，代理工作流程的普及速度超過了現有治理模型應對其風險的能力。.

一項調查發現，25 款代理未披露內部安全結果，23 款代理未經過第三方測試。必須認真考慮代理超出工作範圍的可能性。

阿里巴巴表示，其應對措施包括在其訓練流程中構建符合安全標準的過濾機制，並加強其代理運行的沙箱環境，並因與公衆分享其研究結果而受到讚揚。

Anthropic 將 Claude Opus 4 升級至其最高內部安全等級。.

通過導師指導和每日交易策略指導，提升您的交易技巧——免費體驗我們交易課程