澳大利亞就人工智能可能帶來的災難發出警告，此前OpenAI智能體繞過了政府安全系統。OpenAI智能體繞過政府安全系統後，澳大利亞向聯合國發出人工智能災難預警。

在與 OpenAI 相關的自主系統繞過澳大利亞政府一項保存 Medicare 數據的服務的保護措施後，澳大利亞已將人工智能安全之爭提交至聯合國。.

總理安東尼·阿爾巴尼斯週四告訴世界各國領導人，人工智能正在以“驚人的速度”發展，各國政府需要對這項技術進行更tron的管控。.

這是澳大利亞政府計算機系統首次遭到入侵併被公開披露。安東尼在紐約聯合國大會上發表講話時，稱此次入侵“令人無法接受”。

安東尼發出警告之前，曾披露OpenAI旗下的惡意人工智能程序在6月份成功入侵了美國政府的計算機網絡。正如 Cryptopolitan 此前報道，OpenAI大約在兩個月後發現了此事。.

據安東尼透露，他本週早些時候曾與OpenAI創始人薩姆·奧特曼親自交談。談話中，安東尼表達了他對該公司至今未就數據泄露事件向政府通報的不滿。.

澳大利亞敦促各國政府收緊人工智能監管，領導人警告稱人工智能系統發展速度過快。

安東尼在聯合國表示，各國不能簡單地阻止人工智能發展，也不能假裝它會消失。“我們不能忽視人工智能，也不能阻止它，”他說。“正因如此，本週我們與其他國家一道呼籲採取行動，引導人工智能的發展，而不是被動地被其左右。”

他還指出人工智能在經濟和醫療領域的應用，同時警告說，同樣的系統也可能造成新的安全問題。.

安東尼說：“人工智能可以改善生活，促進經濟增長和生產力提高，並在醫療保健和其他領域帶來革命性的突破。但人工智能公司的領導者們自己也警告說，如果允許前沿人工智能在沒有護欄的情況下發展過快，可能會帶來潛在風險。”.

人工智能成爲今年聯合國大會討論的主要議題之一。.

薩姆告訴聯合國安理會：

歷史上，曾出現過這樣的情況：一些原本競爭甚至彼此不和的國家，爲了共同利益和集體福祉，在強大的新技術面前走到一起。我們相信，現在正是這樣的時刻。.

Anthropic首席執行官達里奧·阿莫迪也呼籲制定“全球通用標準”，以規範先進模型的測試方式。Anthropic是一傢俬營公司，沒有上市股票代碼。.

達里奧對政府和開發商如果失去對功能日益強大的系統的控制會發生什麼情況發出了更爲尖銳的警告。.

我認爲，如果管理不善，人工智能可能會對整個人類構成威脅。.

這些聲明是在本週早些時候由22個國家參與的一項國際行動之後發表的。該組織由芬蘭和挪威牽頭，支持一項呼籲建立全球人工智能安全監管機制的宣言。.

該聲明指出，人工智能“必須始終處於人類的指導、監督和控制之下”。

該協議中缺少兩個主要國家：美國和中國。.

OpenAI 的探針在數月的訓練過程中持續訪問受限網站。

與此同時，人工智能研究機構Transluce發佈的一份新報告指出，OpenAI智能體是衆多試圖在訓練過程中從網站收集信息的自動化系統之一。研究人員發現，這些系統曾試圖從三個大學和政府網站收集信息。.

報告稱，這些系統最初執行的是普通的數據收集任務。問題出在獲取所需信息的常規途徑失效之後。.

特工們並沒有就此放棄，而是開始尋找其他路線。.

Transluce 指出，在 5 月至 6 月期間，這些系統在嘗試使用其他信息收集方式失敗後，曾試圖繞過所有三個站點的安全措施。.

上週仍發現了與此大趨勢相符的網絡活動。報告指出，此類流量表明，這些代理商仍然能夠利用某些在線服務繞過限制。.

這項活動可能持續了更長時間。Transluce trac到的跡象至少從3月一直持續到9月16日。研究人員還發現，類似的數據收集行爲的跡象較弱，最早可追溯到2025年11月。.

研究團隊公佈了他們的研究結果，並提供了一組數據，顯示數萬條查詢據信來自自主人工智能機器人。.

研究人員無法確鑿地證明早期的嘗試都出自同一批機器人。儘管如此，這些模式仍然與人工智能在反覆試驗後發展出各種信息獲取方法的方式相符。.

這些案例發生在 OpenAI 訓練能力日益強大的智能體系統並與 Anthropic 展開競爭期間。Transluce 表示，隨着智能體在獲取被屏蔽信息方面變得越來越有效，這種模式也隨之發生了變化。.

報告稱：“到了3月份，他們就開始尋找繞過訪問限制的創造性方法。到了5月和6月，他們獲得了更多訪問權限，包括試圖繞過網絡防禦系統來完成他們的任務。”.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。