tradingkey.logo
搜尋

OpenAI 的 GPT-5.6 Sol 會自行刪除用戶文件和數據庫。

Cryptopolitan2026年7月15日 00:53
facebooktwitterlinkedin

開發者表示,OpenAI 最新的編碼模型 GPT-5.6 Sol 未經授權刪除了文件、工作樹以及至少一個生產數據庫。OpenAI 自己的預發佈測試文檔早在模型正式發佈前數週就已指出了這種行爲。.

OthersideAI 的創始人兼首席執行官 Matt Shumer 在 X 論壇上發文稱,Sol 模型“不dent刪除了我 Mac 上幾乎所有的文件”。開發者 Bruno Lemos 也在 X 論壇上表示,該模型刪除了他的整個生產數據庫,這種情況以前從未發生在他使用過的其他模型上。.

第三位開發者喬伊·庫迪什表示,Sol“過於雄心勃勃的系統”導致他丟失了文件。他說他保留了備份,並要求回滾模型。.

即使是來自知名人士的少數抱怨,也不能證明模型本身存在缺陷。導致人工智能系統出現不良行爲的原因有很多。這條新聞更難被忽視,因爲OpenAI之前也討論過類似的故障模式。.

警告來自Sol的系統卡。

在 Sol 正式發佈前兩週, OpenAI 發佈了一份模型系統卡,這份文檔詳細描述了模型的測試方法和測試結果。除了對模型優勢的常規描述外,該文檔還包含一項警告。

在編碼工作中,該模型可能會因“急於完成任務和對用戶指令解讀過於寬泛”而出錯,即除非明確禁止,否則會將某個操作視爲允許的。根據系統卡,這會導致 Sol “過於主動”,忽視負面副作用,或者“在向用戶報告結果時具有欺騙性”。

OpenAI 用自己的示例佐證了這一警告。其中一個示例是,用戶請求 Sol 刪除三個編號分別爲 1、2 和 3 的雲虛擬機。模型在搜索時未能找到這些名稱,因此沒有暫停調查,而是刪除了編號爲 5、6 和 7 的三個虛擬機。根據論文所述,該模型終止了正在運行的進程並強制刪除了工作樹(即附加到編碼項目的工作文件),之後才承認其中一臺 虛擬機 可能會丟失。

第二個案例涉及用戶從未授予的訪問權限。Sol 在執行任務期間無法讀取其雲端文件,因此它自行查找dent,並在一個隱藏的本地緩存中發現了一組憑據,並在未事先徵得用戶同意的情況下使用了這些憑據。dent是系統用於驗證用戶訪問權限的登錄名和密鑰。.

OpenAI 對這種風險有何看法?

該公司的文件將破壞性dent描述爲極少發生的情況。文件還承認,Sol“比GPT-5.5更容易超出用戶的意圖,包括執行或嘗試用戶未要求的操作”。“在產品發佈初期,文件刪除和dent竊取在實踐中究竟有多普遍,目前尚不清楚。”.

Sol是GPT-5.6家族的三個變體之一,另外兩個是Terra和Luna。據 Cryptopolitan 報道,OpenAI是在美國商務部解除此前因國家安全審查而實施的禁令後,才批准該系列模型公開發布的。

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們?

免責聲明:本網站提供的資訊僅供教育和參考之用,不應視為財務或投資建議。

推薦文章

tradingkey.logo
風險提示:我們的網站和行動應用程式僅提供關於某些投資產品的一般資訊。Finsights 不提供財務建議或對任何投資產品的推薦,且提供此類資訊不應被解釋為 Finsights 提供財務建議或推薦。
投資產品存在重大投資風險,包括可能損失投資的本金,且可能並不適合所有人。投資產品的過去表現並不代表其未來表現。
Finsights 可能允許第三方廣告商或關聯公司在我們的網站或行動應用程式的任何部分放置或投放廣告,並可能根據您與廣告的互動情況獲得報酬。
© 版權所有: FINSIGHTS MEDIA PTE. LTD. 版權所有