金融监管总局发文规范银行业保险业人工智能开发应用

6月18日，金融监管总局发布《关于银行业保险业人工智能安全开发应用的指导意见》，对银行业保险业金融机构开发应用人工智能作出专项规范。该文件明确界定了金融机构应用生成式人工智能的高风险应用场景。

高风险应用场景划定

根据指导意见，高风险应用场景涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等方面。这些场景直接关联金融业务的核心流程与客户资金安全，是监管重点关注的领域。

指导意见对生成式人工智能在金融机构中的使用划定了明确的高风险边界。

名词解释：生成式人工智能

生成式人工智能是指基于算法模型，能够自主生成文本、图像、音频等内容的人工智能技术。在金融领域，其应用包括智能客服、自动化报告撰写等，但当其用于信贷审批、承保理赔等决策环节时，偏差或错误可能导致重大损失。

监管逻辑拆解

指导意见的规制思路可归纳为两点：一是通过场景分级，将高风险应用与低风险应用区分管理；二是要求金融机构在引入AI前建立安全评估机制，确保技术与业务风控体系兼容。这实质上是在鼓励创新与风险防控之间寻求平衡。

• 资金交易：涉及账户操作、支付指令等环节的AI应用。
• 资产评估：依赖算法进行抵押品估值或信用评级。
• 信贷审批：AI辅助或自主完成贷款决策。
• 承保理赔：AI用于保单核保或赔案定损。
• 风险管理：包括市场风险、操作风险的预测与监控。

金融监管总局发布《意见》规范金融业AI开发应用 明确高风险应用界定与数据安全红线

金融监管总局近日发布《关于规范金融机构人工智能开发应用的意见》（下称《意见》），从机构治理、风险分类分级、数据安全、个人信息保护等方面提出明确要求。其中，姓名、身份证号等个人信息被列入禁止用于生成式人工智能模型训练和优化的“红线”，高风险应用场景须经风险管理委员会批准并建立人工监督机制。

机构治理：董事会须指定专门委员会负责AI开发应用管理

《意见》首先从机构治理层面入手，要求金融机构的董（理）事会应指定专门委员会对人工智能开发应用管理负责。在具体应用中，金融机构要建立人工智能全生命周期管理体系，实施人工智能应用风险分类分级管理，穿透管控关联交易、资金运用等重点领域风险问题。

金融监管总局有关司局负责人表示，制定《意见》的目的是规范金融机构对人工智能的开发应用，有效防控人工智能技术应用可能带来的风险，推动数字金融高质量发展。

高风险应用场景明确界定 需经风险管理委员会批准

《意见》对“高风险应用”作出明确界定：涉及资金交易、资产评估、信贷审批、承保理赔、风险管理，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用，应被视为高风险应用。这些应用须经相应金融机构的风险管理委员会批准后方可实施，且关键环节应建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程。

同时，金融机构面向公众服务或高风险场景应用使用生成式人工智能技术的，应向金融监管总局或其派出机构报告。

• 高风险应用包括：资金交易、资产评估、信贷审批、承保理赔、风险管理等。
• 需建立人工监督和干预机制，明确紧急停用及模型退出条件。
• 面向公众服务或高风险应用使用生成式AI技术须向监管部门报告。

数据安全红线：个人信息不得用于生成式AI模型训练

《意见》划定了清晰的安全底线：姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露。金融机构应将人工智能数据安全纳入企业数据安全管理体系，严格落实数据分类分级保护要求；规范开发过程和数据访问权限，防范数据投毒，完善数据脱敏规范，避免使用可直接识别出个体的数据。

生成式人工智能是指能够生成文本、图像、音频等内容的人工智能技术，其训练和优化依赖大量数据。《意见》强调，金融机构应加强模型安全护栏建设，加强内容过滤及脱敏管理，严格管理外包过程中的数据安全。

监管配套：构建银行业保险业生成式AI安全开发应用技术框架

《意见》明确，各级监管部门要重点关注相关金融业务合规风险，督促金融机构健全风险治理体系，对政策落实不到位、执行走偏等问题及时予以纠正，对违规行为严肃查处。金融监管总局将会同相关部门推动构建银行业保险业生成式人工智能安全开发应用技术框架，规范分类分级管理，明确安全开发标准规范，引导金融机构有效提升人工智能应用安全开发水平。

金融监管总局及派出机构将优化风险监测预警指标体系，加强分析处置，完善监管工具方法，督促金融机构聚焦对客服务、高风险应用场景制定风险应急预案；建立监管定期评估机制，重点加强高风险场景应用监管，持续提高监管适配能力；同时加强监管队伍建设，着力培养复合型监管人才，提升人工智能风险识别、监测和处置能力。

根据公开消息，去年6月金融监管总局科技监管司在2025年中国网络文明大会上曾指出，个人信息保护是金融业网络数据安全监管工作的重要内容，金融监管总局将进一步完善金融领域个人信息保护要求，有序开展监督检查和事件处置。