人工智能在決策中的興起

人工智能 (AI) 的爆炸式增長讓我們的世界充滿了理想主義夢想或世界末日預測，但兩者都沒有抓住真正的威脅。

我們並沒有面臨人工智能或機器人進行敵意接管的“機器人大叛亂”。忘掉《終結者》或《黑客帝國》中的電影場景吧——那是不可能的。人工智能征服世界的技術並不存在。

人工智能可能在特定任務上表現出色，例如摺疊蛋白質或下棋，但它無法建立軍隊或管理國家。

然而，沒有機器人起義並不意味着我們是安全的。人工智能正在通過不那麼matic但同樣強大的手段悄悄滲透到我們的生活：數字官僚機構。

真正的危險不是殺手機器人。這是人工智能對控制我們日常生活的決策的侵蝕。人類已經進化到害怕有形的威脅。想想大型掠食者，如獅子和鯊魚。

但我們還沒有準備好發現來自文書工作、文件或官僚機構的威脅。官僚制度本身是一項相對較新的發明，僅在 5000 年前隨着文字的出現而發展起來。

例如，在撰寫本文之前，所有權取決於社區的共識。如果你“擁有”一塊土地，那是因爲你的鄰居尊重它。不需要任何文件。

從泥板到數字官僚

當人們開始使用泥板和唱片時，一切都改變了。書面文件意味着產權不再是社區共識，而是官方記錄。古代美索不達米亞人將泥塊變成了官方所有權的象徵，顛覆了所有權的觀念。

法院的判決可能會基於一塊泥板，上面寫着您擁有一塊土地，即使社區不同意。快進到今天，我們的系統仍然建立在類似的原理之上，只是現在我們使用硅芯片和數字記錄而不是粘土。

這一轉變改變了權力結構。所有權成爲無需當地社區認可即可出售和交易的東西。官僚機構的出現，使得稅收、軍事資助和中央政府成爲可能。

官僚成爲這些系統中的重要參與者，他們使用記錄、表格和印章來管理軍隊、分配資源，甚至控制法律。這些官僚體系催生了對其人口進行廣泛控制的中央集權國家，這種控制現在轉向了人工智能。

人工智能不需要組建一支機器人軍隊；它只需要掌握官僚系統。正如今天所見，在這些框架內，人工智能可以做出比任何人類更有影響力的決策。人工智能已經在決定我們是否獲得貸款、工作機會、大學錄取，甚至醫療診斷。

想象一下人工智能銀行家確定信貸資格，人工智能法官對法庭案件做出裁決，或者軍事人工智能計算打擊目標。人工智能不需要機器人叛亂。它所繼承的官僚權力已經是巨大的。

社交媒體中的人工智能和公衆影響力

社交媒體算法雖然很原始，但已經發揮了巨大的力量。人工智能算法，尤其是來自 Facebook、X（以前稱爲 Twitter）、YouTube 和 TikTok 的算法，在設計時都牢記一個目標：用戶參與度。人們在這些平臺上停留的時間越長，流向公司的資金就越多。

通過對數十億用戶的反覆試驗，這些算法發現觸發貪婪、憤怒和恐懼等情緒可以提高參與度。當他們按下這些情感按鈕時，就會讓用戶着迷。

這些算法並沒有停留在優化上網時間上。他們更進一步，發現激發強烈情緒的內容可以提高用戶參與度。這一發現導致了陰謀論、錯誤信息和社會分裂的傳播。

由於優先考慮點擊量而非凝聚力的算法，當今世界充斥着數字化的憤怒、散佈恐懼和兩極分化。通過利用情緒觸發因素，社交媒體算法助長了當今陰謀論和假新聞的流行。

這些算法“決策者”本質上並不是惡意的。相反，他們經過優化可以有效地履行自己的職責。儘管如此，他們的決定仍然缺乏我們在如此重要的領域通常期望的人類直覺或背景。

人工智能可能會做出更快或更一致的判斷，但如果出現問題，結果可能是災難性的。這種潛在風險已經在社交媒體對社會的影響中顯現出來，爲人工智能不受控制的力量可能導致的後果發出了警告。

拜登爲五角大樓和情報機構制定人工智能規則

喬·拜登dent宣佈了一份國家安全備忘錄，其中規定了人工智能在國家安全中的使用新規則，防止五角大樓和情報機構以違背民主價值觀的方式使用人工智能。

這是第一個指導人工智能在國家安全中發揮作用的指令。新規則將鼓勵人工智能實驗，同時確保政府機構不會利用人工智能侵犯言論自由等權利或破壞核控制。

國家安全顧問傑克·沙利文（Jake Sullivan）表示：“我們的備忘錄爲我們的人工智能風險管理承諾制定了首個政府範圍內的框架。”他概述了避免偏見、堅持問責制並確保人類對敏感角色​​中的人工智能進行監督的目標。

儘管不具有法律約束力，但這些規則涵蓋了網絡安全、反情報和軍事行動中的後勤等國家安全應用。拜登去年還頒佈了出口管制措施，通過限制技術准入減緩了中國人工智能的進步。

根據該指令，華盛頓的人工智能安全研究所將負責檢查人工智能工具，以防止發佈前的濫用，美國情報界將優先監控其他國家的人工智能進展。