GB/T 46347-2025 人工智能 风险管理能力评估

ICS35240

CCSL.70

中华人民共和国国家标准

GB/T46347—2025

人工智能风险管理能力评估

Artificialintelligence—Riskmanagementcapabilityassessment

2025-10-05发布2025-10-05实施

国家市场监督管理总局发布

国家标准化管理委员会

GB/T46347—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

人工智能风险管理能力框架与分级

4……………………2

人工智能风险管理能力框架

4.1………………………2

人工智能风险管理过程

4.2……………3

人工智能风险管理能力等级

4.3………………………4

人工智能风险管理能力等级划分

4.4…………………5

人工智能风险管理能力项

4.5…………6

人工智能风险管理能力评估

5……………8

人工智能风险管理策划能力评估

5.1…………………8

人工智能风险沟通能力评估

5.2………………………12

人工智能风险评估能力评估

5.3………………………13

人工智能风险处理能力评估

5.4………………………17

人工智能风险监控能力评估

5.5………………………18

人工智能风险回顾能力评估

5.6………………………20

附录资料性推荐权重设置

A()…………22

附录资料性风险源

B()…………………23

附录资料性风险管理方法工具与技术

C()、…………25

参考文献

……………………27

Ⅰ

GB/T46347—2025

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由全国信息技术标准化技术委员会提出并归口

(SAC/TC28)。

本文件起草单位中国电子技术标准化研究院中国科学院软件研究所中科南京软件技术研究院

:、、、

上海商汤智能科技有限公司中建科技集团有限公司北京谋远咨询有限公司上海市人工智能行业协

、、、

会杭州半个宇宙科技有限公司北京大学武汉人工智能研究院海信集团控股股份有限公司西门子

、、、、

中国有限公司中电信数智科技有限公司同方知网数字出版技术股份有限公司上海计算机软件技

()、、、

术开发中心北京瑞莱智慧科技有限公司上海人工智能研究院北京航空航天大学科大讯飞股份有限

、、、、

公司浙江大华技术股份有限公司北京邮电大学中国民航信息网络股份有限公司中国航空工业集团

、、、、

沈阳飞机设计研究所浪潮云信息技术股份公司重庆国科础智信息技术有限公司浪潮软件科技有限

、、、

公司上海燧原科技股份有限公司中国船舶集团有限公司综合技术经济研究院电子科技大学北京航

、、、、

天自动控制研究所中国兵器工业信息中心郑州阿帕斯数云信息科技有限公司

、、。

本文件主要起草人范科峰刘张宇叶珩董建孟令中徐洋马骋昊吴庚曾涛方亮饶雪

:、、、、、、、、、、、

赵春昊马珊珊吴年京辜凌云方静吴琪薛云志高卉高峰陈敏刚陈文捷刘畅胡嵩智赵玉霞

、、、、、、、、、、、、、、

陈曦宋海涛刘祥龙刘艾杉董乾杨光刘俊华程淼何召锋翁家良梅莹郑佳佳朱晓芳陈利明

、、、、、、、、、、、、、、

郝立强游洪峰王士宁杨彤晖温晓玲吴立金李照川王金超姜梦岑蒋燕吴惠甲李劲松

、、、、、、、、、、、、

于明亮谢旻希樊则森傅文林邓赛陈贺于红云江维李想张天缘王栓奇张旭

、、、、、、、、、、、。

Ⅲ

GB/T46347—2025

引言

人工智能风险管理是一个广泛的概念它涵盖了与人工智能相关的所有风险的管理包括但不限

“”,,

于技术风险如算法偏差数据泄露等伦理风险如算法歧视意识形态侵蚀等应用风险如系统被

(、)、(、)、(

黑客攻击算法被用于欺骗等和法律风险如算法合规知识侵权等

、)(、)。

本文件主要关注组织在应用人工智能系统时的风险管理能力这些风险可能涉及系统的稳定性安

,、

全性性能以及与其他系统的兼容性等方面人工智能系统的风险管理是为了确保系统能按预期运

、。

行并避免由于系统故障或漏洞而导致的潜在问题

,。

本文件确定的风险管理过程主要是在图展示的风险管理过程的基础上充

,GB/T24353—20221,

分吸收对人工智能风险管理过程的描述考虑人工智能安全治理框架提及的风险

ISO/IEC23894,《》

点对组织风险管理时应当进行的活动以及应具备的能力做了进一步细化

,,。

Ⅳ

GB/T46347—2025

人工智能风险管理能力评估

1范围

本文件规定了组织的人工智能风险管理能力的级别与要求描述了组织的人工智能风险管理能力

,

的评估方法

。

本文件适用于指导评估人员对组织的人工智能风险管理能力进行评估

。

2规范性引用文件

本文件没有规范性引用文件

。

3术语和定义

下列术语和定义适用于本文件

。

31

.

人工智能artificialintelligence

人工智能系统的机制和应用的研究与开发

。

来源

[:GB/T41867—2022,3.1.2]

32

.

人工智能系统artificialintelligencesystem

针对人类定义的给定目标产生诸如内容预测推荐或决策等输出的一类工程系统

,、、。

注1该工程系统使用人工智能相关的多种技术和方法开发表征数据知识过程等的模型用于执行任务

:,、、,。

注2人工智能系统具备不同的自动化级别

:。

来源

[:GB/T41867—2022,3.1.8]

33

.

风险risk

不确定性对目标的影响

。

来源

[:GB/T23694—2024,3.1.1]

34

.

风险管理riskmanagement

在风险方面指导和控制组织的协调活动

。

来源

[:GB/T23694—2024,3.2.1]

35

.

风险源riskresource

单独或组合有可能产生风险的元素

。

来源

[:GB/T23694—2024,3.3.10]

36

.

能力域capabilitydomain

风险管理过程框架中相关过程的集合

。

1

GB/T46347—2025

37

.

能力子域capabilitysub-domain

能力域中相关风险管理活动的集合

。

38

.

能力项capabilityitem

能力子域中构成能力模型的若干特性指标单项

。

39

.

能力项权重factorofcapabilityitem

对应能力项在所述能力子域评估中的权重因子

。

4人工智能风险管理能力框架与分级

41人工智能风险管理能力框架

.

人工智能风险管理能力框架包括风险管理策划风险沟通风险评估风险处理风险监控以及风险

、、、、

回顾个能力域各能力域由若干能力子域与能力项按照衡量相关能力所需维度进行规定见表

6。,1。

表1风险管理能力框架

能力域能力子域能力项

确定组织方针

确定人工智能风险管理目标

确定领导作用

进行资源协调

指派职责

风险管理策划定义人工智能风险管理活动范围

定义风险参数

制定风险政策定义风险准则

确定风险管理策略

确定风险储备

风险沟通

风险沟通沟通与咨询

风险咨询

选择风险识别工具技术方法

//

风险识别识别人工智能风险源

识别风险后果

进行人工智能风险分类

风险评估

风险分析进行风险概率分析

进行风险影响分析

建立风险概率影响矩阵

风险评价

确定风险优先级

2

GB/T46347—2025

表1风险管理能力框架续

()

能力域能力子域能力项

选择风险应对方案

风险处理风险应对

制定和实施风险处理计划

风险监督

风险监控监督与检查

风险检查

风险记录

风险回顾记录与报告

风险报告

42人工智能风险管理过程

.

人工智能风险管理包括风险管理策划风险沟通风险评估风险处理风险监控风险回顾个过

、、、、、6

程域见图其中

,1。:

风险管理策划是风险管理的起始环节涉及确定风险管理的范围环境和准则旨在有针对性

———,,、,

地设计风险管理过程风险管理策划包括确定领导作用制定风险政策等过程

,、;

风险沟通贯穿于风险管理的全过程涉及组织内部各级别之间以及组织与外部利益相关者之

———,,

间的信息交流

;

风险评估是在风险管理策划的基础上进行是对风险进行定性或量化分析的过程旨在确定

———,,,

风险发生的可能性和影响程度风险评估包括风险识别风险分析和风险评价个步骤为风

,、3,

险处理提供决策依据

;

风险处理是组织根据风险评估的结果制定并执行风险应对策略和措施风险处理旨在降低

———,,。

风险发生的可能性或减轻风险造成的损失

;

风险监控是对风险管理活动进行持续跟踪和监测的过程旨在及时发现并应对新的风险或原

———,,

有风险的变化风险监控贯穿于风险管理的全过程

,;

风险回顾是对风险管理策划风险评估风险处理风险沟通与风险监控等其他个过程域的

———,、、、5

风险管理活动与结果进行传达从而为组织提供决策信息以改进其风险管理活动

,,。

3

GB/T46347—2025

图1人工智能风险管理过程

43人工智能风险管理能力等级

.

人工智能风险管理能力等级由低到高依次分为初始级受管理级稳健级量化管理级和优化级见

、、、,

图

2。

4

GB/T46347—2025

注每个能力等级表明人工智能风险管理能力所达到的水平较高的能力等级涵盖了低于其能力等级的全部

:。

要求

。

图2人工智能风险管理能力等级

44人工智能风险管理能力等级划分

.

组织的风险管理能力等级由其人工智能风险管理能力总得分确定具体等级划分见表风险管

,2。

理能力的总得分由各能力域得分加权计算获得能力域权重设置见附录

,A。

表2人工智能风险管理能力等级划分规则

等级取值范围等级说明

组织具备基本的人工智能风险管理能力组织会应用一些风险管理活动但未建

。,

初始级得分立系统的人工智能风险管理机制风险管理往往以被动和临时的方式进行风险

<1.5。,

管理结果不可预测且难以复制通常更多地依赖于组织中人员的能力

,

组织具备可拓展的人工智能风险管理能力组织意识到人工智能风险管理的重

。

要性建立了基本的风险管理流程和机制风险管理活动被分配给有能力职责

受管理级得分,。、

1.5≤<2.5明确有足够资源的人员但多数风险管理活动还是基于过去经验的重复而缺乏

、,

体系

组织具备稳定的人工智能风险管理能力组织建立了全面的风险管理流程和机

。

制风险管理活动可被标准化协调和一致地推动组织将人工智能风险管理视

稳健级得分,、。

2.5≤<3.5为组织运作的关键要素在决策和资源分配中给予重视并反映在绩效管理流

,,

程中

组织具备优秀的人工智能风险管理能力组织建立了完备的风险管理流程和机

。

制且持续根据内外环境变化进行更新组织应用定量和统计方法来管理测量

量化管理级得分,。、

3.5≤<4.5和评估风险管理过程风险管理被纳入到组织的战略规划和业绩管理活动风险

,,

偏好和政策得到了明确的阐述

组织具备卓越的人工智能风险管理能力