微軟公佈人工智能行爲準則草案，押注人類控制能夠提升模型銷量
微軟人工智能（MAI）週一發佈了其《人本主義人工智能行爲準則》初稿，並邀請公衆就此提出爲期六週的反饋意見。該準則強調了在評估人工智能系統時，人類監督和可執行的限制措施應優先考慮。據路透社報道，該模型旨在使人類能夠有效地監督人工智能系統。
本文旨在指導未來的訓練和模型行爲，同時也可作爲一項商業策略。隨着企業在人工智能技術上的投入不斷增加，並日益關注可靠性、成本和風險，微軟強調可預測性和剋制性纔是值得投入的因素。.
草案指示模型做什麼
該草案最重要的目標非常簡單：確保人類仍然掌握控制權。微軟表示，這些模型應該更像工具而非人，在人類監督下運行。.
該規範還在模型中設定了絕對約束，無論用戶或操作者的意圖如何，都不得違反這些約束。這些約束包括以下幾點：使用武器和造成大規模傷害、參與網絡攻擊行動、喪失人爲控制、大規模惡意操縱以及兒童安全問題。.
三級指揮鏈結構如下：行爲準則爲最高優先級，其次是操作員政策，最後是用戶偏好。絕對約束和人爲控制請求必須優先考慮，不容忽視。.
微軟表示，目前該草案並未用於模型訓練。計劃於今年晚些時候發佈的新版本預計將有助於推動 MAI 在 2027 年及以後的發展。.
爲什麼信任正在成爲產品特性
該草案代碼的發佈時機恰逢全球人工智能支出增長之際。Gartner預測， 人工智能模型和平臺的支出 將達到643億美元，比2025年增長63.4%，其中生成式人工智能模型的支出將增長117%。Gartner指出，買家在選擇供應商時，越來越重視成本、延遲、性能和可靠性。
因此，公司治理在商業上變得trac，但可能更有利於大型公司。 國際貨幣基金組織的一份報告 明確指出，計算和數據規模帶來的優勢可能導致贏家通喫的局面。該報告還強調，監管的複雜性可能與市場集中度的提高相伴而生，因爲它有助於企業承擔合規成本。
根據 Gartner 的數據， 與人工智能相關的治理支出 將達到 4.92 億美元，到 2030 年將突破 10 億美元的門檻。
人工智能規則手冊種類繁多
微軟的框架是在一個已經支離破碎的治理格局中推出的。 通用人工智能實踐準則 ，允許各組織自行檢查其是否符合《人工智能法案》的義務。該準則的主要利益相關者包括微軟、OpenAI、Anthropic和谷歌。與歐盟發佈的準則不同，微軟的準則是公司自身爲自身人工智能項目開發的行爲框架，而非監管機構開發的合規工具。
全球 負責任人工智能指數 表明，人工智能的實施情況極不均衡。在135個國家和地區中，全球平均得分約爲35分。實際的實施證據僅佔55%，而全球南方國家的這一比例更是低至45%。
這種分歧也體現在地緣政治層面。Cryptopolitan 也報道（BCG）指出，美國和中國的人工智能戰略正在催生出越來越不兼容的技術棧，迫使企業考慮所選技術棧的運行範圍以及其面臨的地緣政治風險。Cryptopolitan稱，華盛頓和北京正在初步籌備在特朗普第二個任期內就人工智能安全問題舉行首次會談。
在這種情況下，微軟的規則手冊可以被合作伙伴用作參考，或者僅僅是對目前已經混亂的全球體系的又一次補充。.
微軟希望公衆做什麼
微軟明確指出， 反饋期 爲六週。這意味着主要起草團隊將在此期間分析收到的意見，發佈一份總結報告，概述所瞭解到的情況和所做的修改，並在今年晚些時候發佈修訂版。
該公司希望瞭解如何使“人類繁榮”的 defi更加精確，哪些措辭含義模糊且無法評估，以及如何在能力不斷發展的同時保持安全限制。然而，微軟並不保證會採納每一項建議。.
不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。
