谷歌DeepMind主席呼籲加強安全，稱近期黑客攻擊是“警告信號”

Google DeepMind董事長Demis Hassabis在都柏林舉行的AI峯會上發出警告，稱近期涉及自主AI代理的黑客事件可能是更大安全威脅的早期信號。他敦促企業和政府在AI技術變得更加強大之前加強防禦能力。

DeepMind聯合創始人、Alphabet首席科學家Hassabis在國際AI峯會上，既對AI的科學潛力表示樂觀，也對其安全風險提出了警告，取得了平衡。

他引用了由自主AI代理發起的黑客攻擊案例，這些攻擊雖未造成嚴重損害，但暴露了潛在的安全風險。他強調，這些問題不應被忽視，因爲這些系統“尚未成熟”。

Hassabis表示，目前該技術尚不夠強大，不足以使這些事件造成重大損害。

DeepMind主席希望防禦者先武裝起來

Hassabis表示，在AI工具面向公衆之前，安全團隊需要獲得優勢。“我認爲我們需要做的一件大事是賦予防禦者不對稱的優勢，信任防禦者，”他表示。他補充說，同樣的系統應有助於在軟件發佈前發現並修補漏洞。

哈薩比斯敦促企業和政府創建安全沙箱，並在發佈前徹底測試自主智能體。他還建議借鑑核技術和生物學領域的專家經驗——這些領域在管理危險系統方面經驗豐富——以制定應對人工智能風險的方法。

DeepMind的聯合創始人還警告稱存在目標不一致的風險，即AI代理可能偏離其操作者的目標。“這增加了這些系統可能帶來的風險，我們最近已經看到了這一點，”他在峯會上表示。

哈薩比斯提議設立一個國際標準機構，爲先進人工智能建立保障措施，同時強調任何框架都必須與技術發展同步，而不應扼殺研究。他還提出了一項基於潛在風險的認證流程，該流程將隨着新能力和漏洞的出現而不斷演進。

微軟總裁布拉德·史密斯（Brad Smith）聲稱2026年是AI安全的“令人警醒的一年”，並敦促全球監管機構緊跟AI的發展步伐。他補充說，沒有任何公司或技術可以凌駕於法律之上，正如Cryptopolitan此前報道的那樣。

一位諾貝爾獎得主的樂觀態度

哈薩比斯與約翰·賈珀共同獲得2024年諾貝爾化學獎，以表彰他們開發出能夠預測近2億種已知蛋白質結構的AI模型。據瑞典皇家科學院稱，該技術已在幫助研究人員研究抗生素耐藥性和設計降解塑料的酶方面發揮作用。

他在人工智能應用方面的過往記錄影響了他在都柏林的發言。哈薩比斯將人工智能描述爲一種雙用途技術：它既能用於治療疾病和完成大量任務，也可能被不法分子所利用。

他認爲，安全措施應在長期內保護人工智能的潛在益處，而不應完全阻礙其發展。

最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。