查理國王警告人工智能領導者，在爲時已晚之前奪回控制權。

在蘇格蘭舉行的一次峯會上，查理三世國王告訴世界最大人工智能公司的負責人，他們必須找到方法，使這項技術保持在人類的控制之下。. 

國王警告說，建造它的人們現在擔心它可能會發展出“更黑暗的能力”，甚至會被用來殺人。. 

查理三世國王對人工智能有何看法？ 

查理三世國王 鄧弗里斯莊園發表了講話 。此次聚會由迪奇利基金會組織，吸引了約 30 位高管、官員和研究人員參加，其中包括英國人工智能部長卡尼什卡·納拉揚、英偉達首席執行官黃仁勳、DeepMind 聯合創始人德米斯·哈薩比斯、OpenAI 首席財務官薩拉·弗里爾和 Anthropic 全球事務主管蒂諾·奎利亞爾。

據彭博社報道，這份私人賓客名單中還包括英國軍情六處處長布萊斯·梅特雷維利、作家尤瓦爾·諾亞·赫拉利和清華大學薛嵐等人的名字。.

77歲的查爾斯只講了大約20分鐘就離開了房間，他希望接下來的會談能夠富有成效。 他說，那些珍視人類道德核心的人們“正焦急地尋求你們的保證，確保我們不會失去對自身命運和靈魂的掌控。”

查爾斯稱這項技術的發展速度“既令人着迷又令人深感擔憂”。他肯定並讚揚了這項技術在醫學和生命科學領域的成就，然後直言不諱地問道：“難道我們真的需要在爲時已晚之前採取足夠的控制措施嗎？”

國王在警告中提到了人工智能技術創造者的擔憂。他還表示，這些系統有可能“發展出更黑暗的能力，甚至可能奪走生命”。他 補充說， 企業高管應該考慮這些工具落入不法分子手中可能帶來的“生存危機”。 

查爾斯此前曾向在布萊切利莊園舉行的英國 2023 年人工智能安全峯會發送視頻致辭，表達了類似的觀點。. 

梵蒂岡人工智能顧問保羅·貝南蒂出席了峯會，教皇利奧十四世在五月份的一份通諭中寫道，人工智能不應掌握在“少數人”手中。

人工智能發展速度會放緩嗎？ 

哈薩比斯告訴與會代表，能夠在許多任務上與人類匹敵甚至超越人類的通用人工智能“可能只需短短几年就能實現”。 

他表示，科技的潛在影響可能是工業革命的十倍。他補充說，出現問題的概率“defi不爲零”，但他隨後又表示，“未來尚未書寫”。

弗萊爾表示，這項技術日益增長的力量引發了人們對如何使其繼續爲人民服務的疑問，而且“沒有任何一家公司或政府能夠獨自做到這一點”。 

黃仁勳領導的英偉達公司市值接近5.15萬億美元。他在會上表示，安全至關重要，如果產品尚未成熟，就應該暫緩發佈。他力主對人工智能產品進行監管，而非監管技術本身，並捍衛開放模式，認爲這是防止小國和研究人員被排除在外的有效途徑。.

此次峯會召開之前，人類學家雅各布·考克森發表了一篇引發廣泛關注的辭職聲明，他的同事埃文·胡賓格預測人工智能有 10% 的可能性會導致人類滅絕，這引發了人們的擔憂。.

Cryptopolitan 報道稱，Anthropic 的 Dario Amodei 發表了一篇文章，敦促各實驗室“引領前沿”，而 OpenAI 本週 後，將披露模型的不當行爲dent。 

然而，並非所有人都認爲這種危險是真實存在的：唐納德·特朗普dent 稱這種擔憂是“騙局”。

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。