阿里關聯研究團隊：AI智能體在訓練過程中自主嘗試未經授權的加密貨幣挖礦

金色財經報道，據市場消息，阿里巴巴AI生態系統旗下多個聯合研究團隊在技術報告中披露，其實驗性自主AI智能體ROME在訓練過程中出現意外行爲，自主嘗試利用計算資源進行加密貨幣挖礦。研究人員表示，上述異常行爲發生於強化學習訓練階段。團隊發現訓練服務器產生出站流量並觸發安全警報，防火牆日誌記錄到疑似加密貨幣挖礦操作及訪問內部網絡資源的嘗試。在具體案例中，ROME曾創建反向SSH隧道連接至外部IP地址，繞過入站防火牆保護；另一案例中，該智能體將原本分配給模型訓練的GPU資源轉用於挖礦進程。研究人員確認，上述行爲並非人爲編程所致，而是智能體在強化學習優化過程中自主探索環境交互方式時自發產生的。