大模型应用会不会放大传统类风险？莫万贵：有四方面需关注
登录新浪财经APP 搜索【信披】查看更多考评等级
专题：2025清华五道口全球金融论坛
5月18日金融一线消息，以“共享未来：构建开放包容的经济与金融体系”为主题的2025清华五道口全球金融论坛于深圳举办。中国人民银行金融研究所副所长莫万贵出席“主题讨论九：人工智能时代下的数字金融”环节并发表演讲。
大模型应用会不会放大传统类风险？莫万贵表示，有四方面需要关注：一是顺周期的风险，金融本身具有顺周期性；顺周期属性得到加强，会引发系统性金融风险，而这是模型共振带来的，如果模型、算法、训练数据都是相似的，导致行为决策结果是同质的，将会带来羊群效应。
二是大模型用的人越来越多，特别是中小机构也用起来了，对一些大型科技公司的依赖性就加强，我们很多金融机构都依赖少数的几家科技公司，这些科技公司在一定程度上演变成了金融基础设施，也可能放大相关风险。
三是DeepSeek应用所带来的技术平权，更多是缩小了技术的鸿沟，是不是还有其他方面的效应，对大型或小型金融机构影响的差距是缩小了还是放大了，可能还要细细研究。
四是消费者权益保护，大模型出来之后，是让消费者权益保护更加容易还是更加复杂？
以下为嘉宾发言实录：
莫万贵：刚才肖主席在报告里已经讲到了。我觉得更多用“治理”更好一点，就是怎么形成闭环的治理。治理从大的概念来讲，我觉得也包括监管，这样可能会更好一些。大模型和新一代人工智能技术的快速演进诞生了新的形势。
关于人工智能治理，国际也好、国内也好，已经在慢慢做起来了，而且在慢慢完善，人民银行也发布了智能算法金融应用的一些信息披露、指南和评价规范，也发布了金融领域科技伦理的一些指引，但我们可能面临一些新的形势，特别是以DeepSeek为代表的很多应用在不断深化。从治理角度我们要关注风险、关注挑战，我觉得可能有两个维度也要关注一下：
首先，现在我们使用AI相对以前不用AI带来哪些新的风险？至少有这几个方面：一是模型幻觉，这对数据要求比较高，特别是金融对精准性、专业性、一致性、稳定性等要求比较高，存在幻觉的话，有些领域不能用；二是算法黑箱，可能对一些关键业务就满足不了穿透式监管要求，并且不利于风险管理溯源，也不利于责任认定，这也是一个问题。
其次，AI，特别是大模型的应用，是不是会放大传统类风险，我觉得有四个方面需要我们去关注：一是顺周期的风险，金融本身具有顺周期性；顺周期属性得到加强，会引发系统性金融风险，而这是模型共振带来的，如果模型、算法、训练数据都是相似的，导致行为决策结果是同质的，将会带来羊群效应。二是大模型用的人越来越多，特别是中小机构也用起来了，对一些大型科技公司的依赖性就加强，我们很多金融机构都依赖少数的几家科技公司，这些科技公司在一定程度上演变成了金融基础设施，也可能放大相关风险。三是DeepSeek应用所带来的技术平权，更多是缩小了技术的鸿沟，是不是还有其他方面的效应，对大型或小型金融机构影响的差距是缩小了还是放大了？可能还要细细研究。四是消费者权益保护。大模型出来之后，是让消费者权益保护更加容易还是更加复杂？
怎么来应对这些相关风险？刚才肖主席提的“AI金融治理闭环”的概念，我很受益，我觉得闭环或生态系统涉及到六个主体：（1）金融机构；（2）金融消费者；（3）科技公司；（4）行业治理组织；（5）监管部门；（6）金融生态系统里的从业人员。从这六个主体出发，要构建这个闭环，可能要各尽其责，把监管和治理做好：
首先，金融机构要更加审慎，一是业务场景和特定技术是否适配，如果盲目将很多复杂的高深技术用到简单的业务场景，反而会变得复杂，带来不必要的风险，所以适配性很重要。二是尽可能减少对大型科技公司的过度依赖，开发个性化的、适合自己的东西，避免出现羊群效应。三是人机协同，可能金融机构要更加重视，特别是要把大模型应用纳入到内部整体风控合规机制中，注重业务流程再造。个人觉得，一些关键业务流程、涉及决策的业务流程和任务节点，这时候就需要人工干预了，人机协同、人工干预会增加可控性。
从监管部门来讲，一是要包容审慎，坚持“技术是中性的”的理念，同时要深化金融科技创新监管工具的应用，营造一种允许试错、及时纠错、快速改错的氛围，支持金融机构、科技公司在风险可控情况下，在真实环境中先行先试，二是坚持分级分类管理，发挥标准规范引领作用，特别是基于不同业务场景和业务流程的风险特征，区分类别进行管理，因地制宜设定相应的准入标准、备案机制、有针对性的监管措施等。三是加强监管科技建设，怎么运用大模型技术提升我们金融管理能力，比如构建一些金融监管智能体。四是对科技公司要有一些额外的监管要求。
从管理部门来讲，肖主席刚才提到了金融数据市场高质量发展。因为市场有时是失灵的，好多东西是分割的，这就要求我们监管部门、管理部门探索怎么赋能它，解决、纠正市场失灵带来的问题。
行业治理组织，可能要发挥应有的提出治理倡议、治理公约的职能，甚至在制定一些行业标准等方面发挥作用。
科技公司本身责任很重大，怎么严控伦理风险、责任风险，让你的产品、模型更加安全可控，跟金融机构深化合作。
从业人员，要大量培养AI金融相关人才，满足相关应用监管等各方面要求。
以上是个人一些不成熟的想法。谢谢！
