印度储备银行提议建立人工智能治理结构，以帮助银行管理风险

印度储备银行 (RBI) 发布了指导方针草案，该草案将强制银行和其他受监管的金融机构采用既定结构来管理与人工智能和机器学习模型相关的风险。.

这些拟议的风险管理系统将包括强制性终止开关，可立即关闭任何产生有害输出的人工智能系统。.

印度储备银行的利益

印度储备银行制定的旨在降低人工智能风险的拟议规则和指南，将于7月24日前公开征求意见。这些指南涵盖银行运营中使用的所有模型，从基本的电子表格计算器到复杂的生成式人工智能系统。.

银行必须对其运营中的所有模型进行清点，定期评估个体和企业层面的风险，并在风险超过可接受阈值时采取纠正措施。纠正措施的形式多种多样，从加强管控到彻底停用模型不等，并需提交详细报告，说明导致这些措施的风险。.

该框架还包含一个多级风险分类系统。每个模型，无论复杂程度如何，都必须被赋予特定的风险等级，并接受人工监督。高风险模型需要获得董事会风险管理委员会的批准。.

人工智能模型的终止开关和人工监督

预计银行将在每个 AI 模型部署中构建覆盖、暂停和停用机制，以便任何模型如果产生错误或有害结果，都可以立即关闭。.

印度储备银行（RBI）还指出了一种所谓的“自动化偏见”，即银行员工可能在未进行任何dent 判断的情况下就认可人工智能的输出结果。对于面向客户的人工智能系统，相关指南将强制要求银行在客户与人工智能模型交互时告知客户，并允许客户随时选择与人工客服沟通。.

路透社报道称，根据草案，与客户或外部用户交互的生成式人工智能模型将面临额外的网络安全要求。

第三方人工智能提供商受到审查

无论人工智能模型是银行内部开发还是从供应商处购买，银行都必须对其选择使用的任何人工智能模型承担全部责任。印度储备银行还表示，供应链集中度是其关注的问题之一，指出银行过度dent 少数全球人工智能供应商的风险。.

所有第三方人工智能模型都需要进行dent 验证。银行还必须为人工智能和机器学习模型 defi阈值，确保能够用通俗易懂的语言解释模型产生特定输出的原因。.

印度储备银行（RBI）一直在加强其技术治理。这些指导方针草案标志着印度央行首次针对整个金融领域的AI模型风险，提出一套全面的董事会层面的问责机制。.

最顶尖的加密货币专家都在阅读我们的简报。想 加入他们？