“人工智能安全”能否被用作全球霸權的工具？

Vitalik Buterin對企業和政府越來越多地使用“人工智能安全”這一理論概念表示擔憂，認爲這種做法存在爭議。

像人工智能領域的領先公司不能規定哪些措施適合或不適合安全，因爲這會導致規則由強者tron。

“人工智能安全”能否被用作全球霸權的工具？

Vitalik Buterin 最近在社交媒體平臺 X 上分享了他對人工智能安全概念被大型企業和國家利益集團挪用

例如， Anthropic最近因拒絕允許美國福利部 (DoW) 或其他政府實體使用其 Claude 型號進行大規模監視或完全自主武器而受到讚揚。

然而，該公司也取消了其暫停風險安全承諾，該承諾規定，如果該公司開發出的 AI 模型的能力超過了該公司證明該模型安全性的能力，則該公司必須無條件停止所有培訓和部署，直到安全措施跟上爲止。

Vitalik指出，Anthropic 此前批評競爭對手從 Claude 的輸出中學習，引發了批評者的強烈反彈，尤其是在中國，批評者認爲 Claude 本身就是利用互聯網上龐大的公共知識來訓練其模型的。

Anthropic 聲稱其與開源競爭對手之間的問題是，這些競爭對手缺乏必要的安全防護措施，會帶來風險，但爲什麼Anthropic可以決定哪些安全措施是合適的呢？

Buterin 表示，Anthropic 的行爲表明，這是一個“tron制定規則”的體系。

他表達了這樣的擔憂：如果人工智能安全與“我們公司/我們國家理應統治世界”的心態變得無法區分，將會創造一個更加危險的世界。.

他認爲，如果安全法規不可避免地豁免國家安全機構，那麼這些法規就會變得不堪一擊。這一點尤其值得關注，因爲最近的新聞證實，大型人工智能實驗室正越來越多地尋求與國防trac建立數十億美元的合作關係，以提供用於軍事用途的安全人工智能環境。.

限制人工智能是否危險？

多年前，維塔利克就成爲了未來生命研究所（FLI）最大的捐贈者之一。2021年，他從 Shiba Inu（SHIB）代幣的創建者那裏獲贈了一大批SHIB代幣。在狗狗幣泡沫達到頂峯時，SHIB的賬面價值超過10億美元。維塔利克趕在利率下降之前將這筆資金捐贈給了FLI，捐贈了價值約5億美元的 SHIB 。.

當時，FLI 關注的是生物威脅和核戰爭等風險。然而，此後 FLI 的重心轉向了積極的政治行動和遊說，經常推動一些維塔利克認爲令人擔憂的監管措施。具體來說，他不同意 FLI 的做法，即在人工智能模型中加入“防護機制”，使其拒絕“有害內容”。

Vitalik認爲這些限制措施是脆弱的解決方案，因爲它們很容易通過越獄或微調來繞過。

更重要的是，他擔心這些策略會導致開源人工智能被禁止，以維持“好人”壟斷的局面。.

維塔利克則提倡一種名爲防禦加速主義（d/acc）的系統。這種理念認爲，處理危險技術的最佳方法是先構建並開源防護罩。.

他最近撥款 4000 萬美元用於安全硬件、生物防禦和網絡安全等項目，以支持他的意識形態。

安全的硬件使計算機芯片無法被黑客入侵，從而避免被用於大規模間諜活動。生物防禦包括開發先進的空氣過濾技術和被動式PCR檢測方法，以便及早發現並阻止疫情蔓延。對網絡安全的投資將提高軟件的可驗證性，使人工智能驅動的攻擊難以輕易摧毀關鍵基礎設施。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報，完全免費。