技術大臣表示英國政府對其人工智能的使用並不透明

例如，英國政府部門已經在使用人工智能來爲從福利支付到移民執法等各個方面的決策提供信息。據《衛報》報道，一些記錄顯示公共機構授予了人工智能算法服務trac。

例如，警察採購機構最近簽訂了一份價值 2000 萬美元的面部識別trac，進一步引發了人們對“大規模生物識別監控”的擔憂。

然而，只有九個算法系統已提交到公共登記冊， 內政部或警方在福利系統中使用的人工智能程序數量不斷增加，其中沒有一個。今年二月，英國政府宣佈使用人工智能登記冊現在將成爲“所有政府部門的要求”。

當被問及缺乏透明度時，科學技術大臣彼得·凱爾承認，公共部門“沒有足夠認真地對待政府使用算法的透明度的必要性。”

“我承認，如果政府代表公衆使用算法，公衆就有知情權。”

凱爾.

“公衆需要感覺到算法是爲他們服務的，而不是相反。做到這一點的唯一方法就是對其使用保持透明，”凱爾補充道。

英國政府無視警告

根據《衛報》的文章，專家警告說，如果不加批判地採用人工智能，將會帶來危險，最近的 IT 系統無法按預期工作的例子包括郵局的 Horizo​​n 軟件。

白廳對人工智能技術的使用涵蓋了從微軟的副駕駛系統到福利系統中的自動欺詐和錯誤檢查。工作和養老金部 (DWP) 最近發佈的另一份人工智能trac通知描述了“DWP 內部的興趣如雨後春筍般湧現，這反映了更廣泛的政府和社會的興趣”。

除了警察之外，內政部還使用人工智能移民執法系統。這個系統被批評者稱爲“機器人社會工作者”，它參與制定決策，包括將人們送回祖國。

然而，政府將其描述爲“基於規則”，而不是人工智能系統，因爲它不涉及從數據中進行機器學習。據政府稱，儘管每個決定仍然由人負責，但這會提高效率。

據報道，英格蘭 NHS 還與 Palantirtrac了一份價值 3.3 億英鎊的合同，以建立一個巨大的新數據平臺，進一步引發了對患者隱私的擔憂。 Palantir 表示，患者保留對數據的控制權。

隱私權運動組織“老大哥觀察”強調，儘管國會議員警告稱缺乏立法來監管警察面部識別trac，但警察面部識別合同的出現表明政府在人工智能技術的使用方面缺乏透明度。

“祕密使用人工智能和算法來影響人們的生活使每個人的數據權利都面臨風險，”首席倡導官瑪德琳·斯通說。

“政府部門必須公開和誠實地說明他們如何使用這項技術。”

石頭。

數據和人工智能研究機構副主任伊莫金·帕克也表達了對缺乏透明度的擔憂。

“缺乏透明度不僅讓公衆矇在鼓裏，還意味着公共部門在採用人工智能方面處於盲目狀態。”

帕克.

帕克補充道：“未能發佈算法透明度記錄限制了公共部門確定這些工具是否有效、從無效情況中學習以及監控這些工具的不同社會影響的能力。”

從零到 Web3 Pro：您的 90 天職業啓動計劃