印度儲備銀行提議建立人工智能治理結構，以幫助銀行管理風險

印度儲備銀行 (RBI) 發佈了指導方針草案，該草案將強制銀行和其他受監管的金融機構採用既定結構來管理與人工智能和機器學習模型相關的風險。.

這些擬議的風險管理系統將包括強制性終止開關，可立即關閉任何產生有害輸出的人工智能系統。.

印度儲備銀行的利益

印度儲備銀行制定的旨在降低人工智能風險的擬議規則和指南，將於7月24日前公開徵求意見。這些指南涵蓋銀行運營中使用的所有模型，從基本的電子表格計算器到複雜的生成式人工智能系統。.

銀行必須對其運營中的所有模型進行清點，定期評估個體和企業層面的風險，並在風險超過可接受閾值時採取糾正措施。糾正措施的形式多種多樣，從加強管控到徹底停用模型不等，並需提交詳細報告，說明導致這些措施的風險。.

該框架還包含一個多級風險分類系統。每個模型，無論複雜程度如何，都必須被賦予特定的風險等級，並接受人工監督。高風險模型需要獲得董事會風險管理委員會的批准。.

人工智能模型的終止開關和人工監督

預計銀行將在每個 AI 模型部署中構建覆蓋、暫停和停用機制，以便任何模型如果產生錯誤或有害結果，都可以立即關閉。.

印度儲備銀行（RBI）還指出了一種所謂的“自動化偏見”，即銀行員工可能在未進行任何dent 判斷的情況下就認可人工智能的輸出結果。對於面向客戶的人工智能系統，相關指南將強制要求銀行在客戶與人工智能模型交互時告知客戶，並允許客戶隨時選擇與人工客服溝通。.

路透社報道稱，根據草案，與客戶或外部用戶交互的生成式人工智能模型將面臨額外的網絡安全要求。

第三方人工智能提供商受到審查

無論人工智能模型是銀行內部開發還是從供應商處購買，銀行都必須對其選擇使用的任何人工智能模型承擔全部責任。印度儲備銀行還表示，供應鏈集中度是其關注的問題之一，指出銀行過度dent 少數全球人工智能供應商的風險。.

所有第三方人工智能模型都需要進行dent 驗證。銀行還必須爲人工智能和機器學習模型 defi閾值，確保能夠用通俗易懂的語言解釋模型產生特定輸出的原因。.

印度儲備銀行（RBI）一直在加強其技術治理。這些指導方針草案標誌着印度央行首次針對整個金融領域的AI模型風險，提出一套全面的董事會層面的問責機制。.

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們？