GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求

ICS35030

CCSL.80

中华人民共和国国家标准

GB/T45654—2025

网络安全技术生成式人工智能服务

安全基本要求

Cybersecuritytechnology—Basicsecurityrequirementsforgenerative

artificialintelligenceservice

2025-04-25发布2025-11-01实施

国家市场监督管理总局发布

国家标准化管理委员会

GB/T45654—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

训练数据安全要求

4………………………2

模型安全要求

5……………4

安全措施要求

6……………5

附录资料性训练数据及生成内容的主要安全风险

A()………………7

附录资料性安全评估参考方法

B()……………………9

参考文献

……………………22

Ⅰ

GB/T45654—2025

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由全国网络安全标准化技术委员会提出并归口

(SAC/TC260)。

本文件起草单位中国电子技术标准化研究院国家计算机网络应急技术处理协调中心浙江大学

:、、、

北京中关村实验室上海人工智能创新中心复旦大学北京百度网讯科技有限公司阿里云计算有限公

、、、、

司北京快手科技有限公司华为云计算技术有限公司北京航空航天大学联想北京有限公司蚂蚁

、、、、()、

科技集团股份有限公司科大讯飞股份有限公司北京大学中国网络安全审查认证和市场监管大数据

、、、

中心北京深度求索人工智能基础技术研究有限公司北京奇虎科技有限公司中国科学院自动化研究

、、、

所河南科技大学中国政法大学上海交通大学清华大学中国科学院软件研究所广东移动

、、、、、、OPPO

通信有限公司中国移动通信集团有限公司深信服科技股份有限公司北京面壁智能科技有限责任公

、、、

司北京瑞莱智慧科技有限公司国家工业信息安全发展研究中心公安部第三研究所国家信息中心

、、、、、

上海燧原科技股份有限公司深圳陆兮科技有限公司杭州网易智企科技有限公司贝壳找房北京科

、、、()

技有限公司北京天融信网络安全技术有限公司北京零一万物科技有限公司上海稀宇科技有限公司

、、、、

广州市动悦信息技术有限公司天翼安全科技有限公司

、。

本文件主要起草人姚相振郝春亮张妍婷张震任奎刘勇杨珉秦湛胡影夏文辉陈钟

:、、、、、、、、、、、

王迎春贺敏张凌寒许晓耕刘建伟落红卫王凤娇徐恪陈洋张向征包沉浮谢安明彭骏涛

、、、、、、、、、、、、、

谷晨郑子木吴少卿王姣王秉政郭建领孟令宇徐甲杨子祺王庆龙邱锡鹏黄晴石琳张宗洋

、、、、、、、、、、、、、、

边松张志勇张谧洪赓潘旭东胡永启林冠辰刘俊华乔玉平梅敬青贾开赵静张严权高原

、、、、、、、、、、、、、、

谭知行杨光姚龙李琦王晖朱贵波周芃安勍沈俊成赵睿斌刘栋马梦娜王俊张立尧

、、、、、、、、、、、、、、

贾雨萌王海棠彭韬李根邱勤江为强徐阳游建舟周呈辉刘楠丁治国王荣仕李大海朱晓芳

、、、、、、、、、、、、、、

王雨晨薛智慧肖博峰危嘉祺

、、、。

Ⅲ

GB/T45654—2025

引言

当前生成式人工智能技术不断发展相关服务已广泛应用为社会生产生活等各方面提供便利但

,,,,

也带来大量网络安全新风险新挑战亟需标准规范设立安全基线

、,。

本文件重点面向具有舆论属性或者社会动员能力的生成式人工智能服务支撑备案管理检测评估

,、

等方面工作开展重点关注数据标注安全时本文件可与网络安全技术生成式人工智

。,GB/T45674《

能数据标注安全规范结合使用重点关注预训练和优化训练数据安全时本文件可与

》;,GB/T45652

网络安全技术生成式人工智能预训练和优化训练数据安全规范结合使用

《》。

Ⅳ

GB/T45654—2025

网络安全技术生成式人工智能服务

安全基本要求

1范围

本文件规定了生成式人工智能服务在训练数据安全模型安全安全措施等方面的要求

、、。

本文件适用于服务提供者开展生成式人工智能服务相关活动也为相关主管部门以及第三方评估

,

机构提供参考

。

注训练数据及生成内容涉及的主要安全风险见附录生成式人工智能服务安全评估参考方法见附录

:A,B。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息安全技术术语

GB/T25069

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T25069。

31

.

生成式人工智能服务generativeartificialintelligenceservice

利用生成式人工智能技术向公众提供生成文本图片音频视频等内容的服务

、、、。

32

.

服务提供者serviceprovider

以交互界面可编程接口等形式提供生成式人工智能服务的组织或个人

、。

33

.

分类模型classificationmodel

对给定输入数据输出其所属的一个或多个类别的机器学习模型

,。

来源

[:GB/T41867—2022,3.2.6]

34

.

训练数据trainingdata

所有直接作为模型训练输入的数据

。

注包括预训练数据和优化训练数据

:。

35

.

生成式人工智能数据标注generativeartificialintelligencedataannotation

通过人工操作或使用自动化技术机制基于对提示信息的响应信息内容将特定信息如标签类别

,,、

或属性添加到文本图片音频视频或者其他数据样本的过程

、、、。

注以下简称数据标注

:“”。

1