T/ISEAA 005-2024 大模型系统安全保护要求

ICS35040

CCSL.80

团体标准

T/ISEAA005—2024

大模型系统安全保护要求

Securityprotectionrequirementsforlargemodelsystem

2024-04-30发布2024-06-01实施

中关村信息安全测评联盟发布

中国标准出版社出版

T/ISEAA005—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

概述

4………………………1

大模型系统架构

4.1……………………1

大模型系统安全

4.2……………………2

通用安全要求

5……………3

物理环境

5.1……………3

网络架构

5.2……………3

边界防护

5.3……………3

身份鉴别

5.4……………4

访问控制

5.5……………4

安全审计

5.6……………4

入侵防范

5.7……………5

恶意代码防范

5.8………………………5

集中管控

5.9……………5

供应链管理

5.10…………………………5

个人信息保护

5.11………………………6

数据安全保护

5.12………………………6

备份恢复

5.13……………6

数据溯源

5.14……………6

设计开发安全要求

6………………………6

数据处理

6.1……………6

模型保护

6.2……………7

内容安全

6.3……………8

测试安全要求

7……………8

模型评估

7.1……………8

模型更新

7.2……………9

部署与运行安全要求

8……………………9

模型部署

8.1……………9

攻击检测

8.2……………9

Ⅰ

T/ISEAA005—2024

运行监测

8.3……………10

系统管理

8.4……………10

变更管理

8.5……………10

安全事件处置

8.6………………………10

应急预案管理

8.7………………………10

退役安全要求

9……………11

模型退役

9.1……………11

数据删除

9.2……………11

参考文献

……………………12

Ⅱ

T/ISEAA005—2024

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

本文件由中关村信息安全测评联盟提出并归口

。

本文件起草单位公安部第三研究所北京百度网讯科技有限公司蚂蚁科技集团股份有限公司

:、、、

浙江大学北京天融信网络安全技术有限公司启明星辰信息技术集团股份有限公司快手科技有限公

、、、

司上海商汤智能科技有限公司北京远鉴信息技术有限公司华为技术有限公司阿里云计算有限公

、、、、

司深信服科技股份有限公司科大讯飞股份有限公司北京百川智能科技有限公司北京小桔科技有限

、、、、

公司优刻得科技股份有限公司浙江君同智能科技有限责任公司

、、。

本文件主要起草人袁静文煜乾张国鹏刘楠刘金鑫陆臻陈广勇苏艳芳刘继顺郭建领

:、、、、、、、、、、

唐佳伟李荣昌杨剑邵英杰谷晨徐浩郑榕王龑蒋发群孙钰娆严敏瑞孙勇叶润国常炳涛

、、、、、、、、、、、、、、

张宏达樊玉杰冯明韩蒙林昶廷

、、、、。

Ⅲ

T/ISEAA005—2024

引言

为规范大模型系统安全保护工作的开展对大模型系统设计开发测试部署运行退役等环节涉

,、、、、、

及的安全保护提出详细的指导帮助主管部门网络运营者及大模型开发者对大模型及大模型系统开展

,、

安全保护工作特制定本文件

,。

本文件是大模型系统安全保护相关系列标准之一

。

与本文件相关的标准包括

:

大模型系统安全测评要求

———T/ISEAA006—2024。

Ⅳ

T/ISEAA005—2024

大模型系统安全保护要求

1范围

本文件规定了大模型系统的通用安全以及设计开发测试部署与运行以及退役等阶段的全生命周

、、

期安全的保护要求

。

本文件适用于指导开发者及运营者对大模型及大模型系统进行全生命周期安全保护大模型系统

,

安全保护的其他方参考使用

。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息安全技术网络安全等级保护基本要求

GB/T22239—2019

信息安全技术术语

GB/T25069

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemodel

基于大量数据集训练得到的具备大参数量复杂结构的机器学习模型

,、。

32

.

大模型服务largemodelservice

基于数据算法模型规则能够根据使用者提示生成文本图片音频视频等内容的人工智能

、、、,、、、

服务

。

注大模型服务根据行业应用分为通用大模型服务和行业大模型服务

:。

33

.

大模型系统largemodelsystem

由计算机或者其他信息终端及相关设备组成的按照一定的规则和程序基于大模型进行数据处理

,

或提供大模型服务的系统或平台

。

4概述

41大模型系统架构

.

大模型系统可抽象为基础设施层平台层模型层和应用层如图所示

、、,1。

1

T/ISEAA005—2024

图1大模型系统参考架构

基础设施层为大模型系统提供算力支持可直接提供灵活调取的智能算力服务降低模型落地的算

,,

力门槛一般包括计算网络存储等资源

,、、。

平台层为模型定制提供全套的工具链及全流程管理功能包括平台服务和数据服务两部分平台

,。

服务包括但不限于模型调优模型交付服务运营等数据服务包括但不限于提供数据集数据工程等

、、;、。

平台层可搭载基础设施以公有服务方式直接对用户提供服务也可以私有化方式部署供内部员工定制

,,

场景专属模型

。

模型层为用户提供可直接调取的模型服务该层具备丰富的模型库并提供模型管理功能模型库

,。

包括通用的基础大模型行业大模型多模态大模型以及经过平台层精调后的专属大模型等模型管理

、、;

包括对模型的版本维护部署权限控制等

、、。

应用层作为框架的最顶层为用户提供面向细分场景的垂类应用及大模型应用的定制开发可通过

,,

等模式对外提供服务用户可直接使用某场景下的智能应用也可基于模型

Agent、RAG、GPTs、API。,

服务打造自己的智能体应用

。

42大模型系统安全

.

大模型系统全生命周期一般包括设计开发测试部署运行退役等几个阶段其中测试阶段主要

、、、、。

是对大模型及大模型系统进行安全测试既包括设计开发阶段中对大模型业务功能和安全功能的测试

,

验证也包括大模型系统上线运行前和正式运行过程中的安全测试

,。

大模型系统安全包括通用安全和全生命周期安全通用安全作为大模型系统安全的基础安全从

。,

2

T/ISEAA005—2024

物理环境网络架构边界防护身份鉴别访问控制安全审计入侵防范恶意代码防范集中管控供

、、、、、、、、、

应链管理个人信息保护数据安全保护备份恢复数据溯源等方面提出安全要求全生命周期安全覆

、、、、;

盖设计开发安全要求测试安全要求部署与运行安全要求退役安全要求大模型系统安全涉及内容

、、、。

如图所示

2。

图2大模型系统安全

5通用安全要求

51物理环境

.

物理环境安全要求包括

:

应设置机房防盗报警系统或设置有专人值守的视频监控系统

a);

应设置冗余或并行的电力电缆线路为计算机系统供电

b);

大模型系统基础设施宜位于中国境内

c)。

52网络架构

.

网络架构安全要求包括

:

应保证网络设备的业务处理能力满足业务高峰期需要

a);

应保证网络各个部分的带宽满足业务高峰期需要

b);

应划分不同的网络区域并按照方便管理和控制的原则为各网络区域分配地址

c),;

应避免将重要网络区域部署在边界处重要网络区域与其他网络区域之间应采取可靠的技术

d),

隔离手段

;

应提供通信线路关键网络设备和关键计算设备的硬件冗余保证系统的可用性满足大模型

e)、,,

应用场景下的高算力需求