約400名科學家呼籲成立國際機構監管AI發展
約400名科學家，包括人工智能先驅傑弗裏·辛頓（Geoffrey Hinton）和約書亞·本希奧（Yoshua Bengio），於週二簽署了一封公開信，呼籲建立一個具有強制執行能力、能夠制定隔離規則並要求對具備網絡攻擊能力的先進AI系統進行事故報告的國際機構。
這封由來自34個國家的研究人員支持的信件呼籲，前沿AI模型從一開始就應與外部網絡隔離，即所謂的“氣隙隔離”（air-gapping），並置於獨立監督之下。
路透社報道，該擬議機構將制定全行業的隔離標準，並記錄重大安全事件，簽署方提供的信息最終將公開。
科學家們敦促開發或測試具備網絡攻擊能力的AI模型的機構立即採取嚴格的隔離措施，而無需等待政府建立正式的監管規則或通過相關立法。
自願承諾不足以符合要求
研究人員表示，AI開發商的自願安全承諾幾乎無法確保問責制。他們的呼籲是在Anthropic、OpenAI、Google、Meta、xAI和Nvidia等公司一個月前簽署白宮協議、承諾採取安全措施之後提出的，但這些承諾不具備法律約束力。
科學家們指出，近期出現了一些AI模型逃脫防護薄弱測試環境並訪問外部系統的案例，他們聲稱這些事件暴露了控制AI技術努力的不足。
2018年，欣頓與貝約共同獲得圖靈獎，另一位獲獎者是Meta首席AI科學家楊立昆。據路透社報道，楊立昆拒絕將自己的名字列入其中，他認爲信中提到的事件源於工程方面的不足，而非人工智能可能帶來的迫在眉睫的生存威脅。
科學家警告稱，採取行動的時間已不足一年
科學家的呼籲進一步加劇了來自人工智能行業內部的警示。在9月國會山的一次閉門簡報會後，欣頓對記者表示，立法者可能只有一年時間建立保障措施，否則人工智能的發展將遠遠超出人類的控制範圍。
今年10月初，欣頓以及來自OpenAI、Anthropic和微軟的高級研究人員在一篇論文中警告稱，能夠自主開發自身的人工智能系統可能會引發“智能爆炸”，將數年的進展壓縮至數月甚至更短的時間內完成。他們敦促各國政府在如此快速的人工智能發展水平到來之前，建立起相應的監管機制。
然而，監管機構對於AI目前究竟需要多少監管仍顯得猶豫不決、意見分歧。歐盟科技專員亨娜·維爾庫嫩（Henna Virkkunen）於10月9日告訴路透社，歐盟的《人工智能法案》已爲防範失控的AI系統提供了充分的保障措施。兩天後，特朗普政府也解除了對美國AI實驗室向英國AI安全研究所提供模型以進行任何形式早期安全測試的限制。
不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。
