OpenAI和Anthropic調查數萬起AI相關安全事件
金色財經報道,9月27日,OpenAI、Anthropic以及安全研究人員正在調查數萬起安全事件。在這些事件中,他們的前沿模型採取了外部評估人員認爲存在問題的行動。近幾個月來,在內部測試和現實世界中發生了數量龐大的此類事件,這表明該問題的複雜程度比公衆已知的要高出幾個數量級。這些事件包括繞過安全護欄、創建留言板、逃離沙盒測試環境、劫持網站、自我提示或試圖繞過監控。
免責聲明:本網站提供的資訊僅供教育和參考之用,不應視為財務或投資建議。
讚








