微軟人工智能負責人承諾，如果該技術構成生存風險，將停止研發。
微軟消費者人工智能負責人穆斯塔法·蘇萊曼表示，如果先進的人工智能威脅到人類安全，他將立即停止相關研發工作。
穆斯塔法在彭博社的《米沙爾·侯賽因秀》節目中表示，微軟的重點是打造符合人類利益的超級智能，而不是不惜一切代價追求原始力量。
“我們不會繼續開發一個有可能失控的系統，”穆斯塔法在採訪中說道。他補充說，這種立場不應該引起爭議，稱其爲顯而易見的立場，儘管他認爲這種立場在人工智能行業仍然很少見。
微軟重新獲得構建先進人工智能系統的自由
去年年初，在微軟收購了 Mustafa 的創業公司 Inflection AI 的知識產權和大部分團隊後，Mustafa 加入了微軟。此前，他曾爲面向消費者的 AI 工具公司 OpenAI 工作。
收購完成後，穆斯塔法的任務是打造能夠與市場上最tron型號直接競爭的產品。
在很長一段時間裏，他的工作都受到限制。微軟與OpenAI合作的trac條款限制了該公司開發通用人工智能（ defi爲能夠達到人類水平的系統）以及超級智能（超越人類能力的系統）。
穆斯塔法表示，微軟放棄了這些權利，以換取使用OpenAI最新模型的權限。該協議還包括微軟在數年內爲OpenAI建設和配備數據中心。
這種結構在10月份發生了變化。一項新的協議重塑了雙方的關係，並將開發權歸還給了微軟。
穆斯塔法表示，OpenAI目前已與其他合作伙伴（包括軟銀和甲骨文）達成基礎設施協議，將建設比微軟願意投入的更多的數據中心。“他們現在與軟銀以及其他許多公司——比如甲骨文——達成了協議，將建設比微軟願意爲他們建設的更多的數據中心，”他說道。“因此，作爲回報，我們也有權開發我們自己的人工智能。”
他表示，過去 18 個月以來，微軟一直是一家通用人工智能開發商，但現在正轉向那些在某些任務上可能超越人類表現的工作。
“過去18個月裏，我們一直是一家通用人工智能開發公司，但現在我們可以致力於一些技術和方法的研究，這些技術和方法有可能在所有任務上超越人類的表現，”穆斯塔法說。“因此，這對我們來說是一個轉變。”
蘇萊曼概述了謹慎的做法，因爲工具尚未完成。
上個月，穆斯塔法在一篇博客文章中正式宣佈了這項超級智能計劃，並闡述了微軟的立場，即此類系統必須以服務人類爲目標。其他主要參與者，包括 OpenAI 和 Anthropic PBC，也經常就安全性和造福人類做出類似的聲明。
他說：“每個人都必須決定自己的立場和行事方式，我不想評判他們現在的行事方式。我沒有看到任何大規模羣體傷害的證據。”
儘管人們長期以來一直關注超級智能，但穆斯塔法表示，目前的爭論仍然停留在學術層面。
消費者希望助手能夠處理諸如預訂機票或制定購物計劃之類的任務。高管們則希望提高工作效率。但雙方都尚未完全滿足這些需求。
穆斯塔法以微軟的Copilot消費者助手爲例。他說，該助手的代理功能仍在測試中，並非總能按預期運行。
“我們還在試驗中，”穆斯塔法說。“但一旦成功，那將是你所見過的最神奇的事情。”
立即加入 Bybit並在幾分鐘內領取 50 美元獎金
