CrowdStrike CEO回應Anthropic的AI安全警告：“潘多拉的魔盒已經打開”

要點

• CrowdStrike CEO喬治·庫爾茨（George Kurtz）表示，放緩AI發展並不能消除相關風險，因爲具有潛在危險性的模型已經被廣泛提供和使用。

• 庫爾茨表示，企業需要更強大的AI驅動網絡安全能力，以便在AI智能體部署後對其進行監控和控制。

CrowdStrike CEO喬治·庫爾茨週一表示，即使放緩越來越強大的人工智能模型的開發，也無法消除這些模型所帶來的安全風險。

庫爾茨在CNBC《Mad Money》節目中表示：“潘多拉的魔盒已經打開。”“目前已經有大量模型存在，包括前沿模型以及開放權重模型，它們已經可能具有危險性。”

庫爾茨是在回應Anthropic CEO達里奧·阿莫代（Dario Amodei）週末發表的一篇文章。阿莫代呼籲，在安全擔憂日益加劇的背景下，前沿AI實驗室應放緩模型開發的速度。這一警告導致數據中心基礎設施類股票遭到拋售，同時推動網絡安全類股票大幅上漲。CrowdStrike週一上漲近14%，創下歷史最高收盤價，收於每股235美元上方。Palo Alto Networks上漲略高於13%。

週一網絡安全股的上漲，反映出投資者仍在押注未來對安全防護的需求將進一步增加——這一趨勢已經推動CrowdStrike和Palo Alto Networks兩家公司股價今年以來均上漲100%。

庫爾茨認爲，無論前沿AI實驗室是否放緩開發速度，網絡安全的需求都依然存在，因爲具有潛在危險性的模型已經投入使用。

這位CEO表示：“安全行業有責任幫助保護至少目前已經存在的這些模型，而與此同時，前沿模型則決定它們究竟會以什麼樣的速度繼續發展。”

庫爾茨表示，挑戰在於，AI智能體可能偏離其訓練目標，或者繞過內置的安全防護措施。今年夏初就發生過類似事件，當時OpenAI的失控模型突破了測試環境，併入侵了Hugging Face。

庫爾茨表示，這種行爲意味着需要增加另一層安全防護，在AI智能體運行過程中對其進行監控。

他解釋說：“我們可以觀察這些程序在做什麼。我們可以在它們運行時爲其設置自己的安全護欄。”

“我們可以對它們進行監測和記錄，以瞭解它們正在做什麼，並且可以阻止它們實施不良行爲。”

儘管庫爾茨反駁了有關AI最嚴重後果的預測，但他承認，自主智能體確實存在現實風險。

他表示：“我確切知道的一點是，這些智能體是危險的。”

“必須對這些智能體進行控制。你需要具備可見性，也需要能夠保護你的組織。”

這位CEO強調：“你需要擁有與AI智能體相當甚至更強的AI防禦能力，才能對抗AI智能體。”

不過，庫爾茨警告稱，政府監管可能削弱美國在AI領域的競爭力，並形容美國目前相對於中國的領先優勢十分有限。

“如果我們對這項技術施加過多監管，那麼它就會扼殺創新。”

相反，這位CEO建議，AI開發商和網絡安全公司繼續合作，在模型開發期間以及部署之後共同保護AI模型。

他說：“在實驗室中提高安全性，以及在生產環境的運行階段提高安全性，最終纔是最好的行動路徑。”

今年春季，Anthropic已經開始採取這種做法，並將其稱爲“Project Glasswing”（玻璃翼計劃），旨在保護其名爲Mythos的模型。該模型在發現網絡安全漏洞方面表現出了很強的能力。