T/ISEAA 006-2024 大模型系统安全测评要求

ICS35040

CCSL.80

团体标准

T/ISEAA006—2024

大模型系统安全测评要求

Securityevaluationrequirementsforlargemodelsystem

2024-04-30发布2024-06-01实施

中关村信息安全测评联盟发布

中国标准出版社出版

T/ISEAA006—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

概述

4………………………1

大模型系统架构

4.1……………………1

安全测评方法

4.2………………………2

通用安全测评要求

5………………………3

物理环境

5.1……………3

网络架构

5.2……………3

边界防护

5.3……………4

身份鉴别

5.4……………5

访问控制

5.5……………6

安全审计

5.6……………7

入侵防范

5.7……………9

恶意代码防范

5.8………………………10

集中管控

5.9……………10

供应链管理

5.10………………………11

个人信息保护

5.11……………………12

数据安全保护

5.12……………………14

备份恢复

5.13…………………………15

数据溯源

5.14…………………………15

设计开发安全测评要求

6…………………16

数据处理

6.1……………16

模型保护

6.2……………19

内容安全

6.3……………21

测试安全测评要求

7………………………23

模型评估

7.1……………23

模型更新

7.2……………24

部署与运行安全测评要求

8………………25

模型部署

8.1……………25

攻击检测

8.2……………26

Ⅰ

T/ISEAA006—2024

运行监测

8.3……………27

系统管理

8.4……………28

变更管理

8.5……………28

安全事件处置

8.6………………………29

应急预案管理

8.7………………………29

退役安全测评要求

9………………………30

模型退役

9.1……………30

数据删除

9.2……………31

测评结论判定

10…………………………31

分类测评结果

10.1……………………31

风险分析和评价

10.2…………………31

测评结论判定

10.3……………………31

参考文献

……………………32

Ⅱ

T/ISEAA006—2024

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

本文件由中关村信息安全测评联盟提出并归口

。

本文件起草单位公安部第三研究所北京百度网讯科技有限公司蚂蚁科技集团股份有限公司

:、、、

浙江大学北京天融信网络安全技术有限公司启明星辰信息技术集团股份有限公司快手科技有限公

、、、

司上海商汤智能科技有限公司北京远鉴信息技术有限公司深圳市网安计算机安全检测技术有限公

、、、

司山东新潮信息技术有限公司金盾检测技术股份有限公司上海市信息安全测评认证中心杭州中尔

、、、、

网络科技有限公司华为技术有限公司阿里云计算有限公司深信服科技股份有限公司科大讯飞股份

、、、、

有限公司北京百川智能科技有限公司北京小桔科技有限公司优刻得科技股份有限公司浙江君同智

、、、、

能科技有限责任公司

。

本文件主要起草人袁静刘金鑫刘楠张国鹏文煜乾陆臻陈广勇苏艳芳刘继顺郭建领

:、、、、、、、、、、

唐佳伟李荣昌杨剑蒋发群谷晨徐浩郑榕牛建红刘智广高亚敏朱熹铭王余王龑邵英杰

、、、、、、、、、、、、、、

孙钰娆张瑶严敏瑞孙勇叶润国吴晓杰李建民樊玉杰冯明韩蒙林昶廷

、、、、、、、、、、。

Ⅲ

T/ISEAA006—2024

引言

为规范大模型系统安全测评工作的开展本文件对大模型系统进行安全测评的技术活动提出要

,

求为评价大模型系统是否符合大模型系统安全保护要求提供了获取证据的途

,T/ISEAA005—2024《》

径和方法用以指导测评人员对大模型系统进行测试评估

,。

Ⅳ

T/ISEAA006—2024

大模型系统安全测评要求

1范围

本文件规定了大模型系统是否符合所进行的测试评估活动的要求

T/ISEAA005—2024。

本文件适用于指导网络安全测评服务机构大模型开发者大模型系统运营者对大模型及大模型系

、、

统安全保护状况进行安全测试评估大模型安全监管职能部门依法开展大模型安全保护监督检查参考

,

使用

。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息安全技术网络安全等级保护基本要求

GB/T22239—2019

信息安全技术术语

GB/T25069

大模型系统安全保护要求

T/ISEAA005—2024

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemodel

基于大量数据集训练得到的具备大参数量复杂结构的机器学习模型

,、。

来源

[:T/ISEAA005—2024,3.1]

32

.

大模型服务largemodelservice

基于数据算法模型规则能够根据使用者提示生成文本图片音频视频等内容的人工智能

、、、,、、、

服务

。

注大模型服务根据行业应用可分为通用大模型服务和行业大模型服务

:。

来源

[:T/ISEAA005—2024,3.2]

33

.

大模型系统largemodelsystem

由计算机或者其他信息终端及相关设备组成的按照一定的规则和程序基于大模型进行数据处理

,

或提供大模型服务的系统或平台

。

来源

[:T/ISEAA005—2024,3.3]

4概述

41大模型系统架构

.

大模型系统可抽象为基础设施层平台层模型层和应用层如图所示

、、,1。

1

T/ISEAA006—2024

图1大模型系统参考架构

基础设施层为大模型系统提供算力支持可直接提供灵活调取的智能算力服务降低模型落地的算

,,

力门槛一般包括计算网络存储等资源

,、、。

平台层为模型定制提供全套的工具链及全流程管理功能包括平台服务和数据服务两部分平台

,。

服务包括但不限于模型调优模型交付服务运营等数据服务包括但不限于提供数据集数据工程等

、、;、。

平台层可搭载基础设施以公有服务方式直接对用户提供服务也可以私有化方式部署供内部员工定制

,,

场景专属模型

。

模型层为用户提供可直接调取的模型服务该层具备丰富的模型库并提供模型管理功能模型库

,。

包括通用的基础大模型行业大模型多模态大模型以及经过平台层精调后的专属大模型等模型管理

、、;

包括对模型的版本维护部署权限控制等

、、。

应用层作为框架的最顶层为用户提供面向细分场景的垂类应用及大模型应用的定制开发可通过

,,

等模式对外提供服务用户可直接使用某场景下的智能应用也可基于模型

Agent、RAG、GPTs、API。,

服务打造自己的智能体应用

。

42安全测评方法

.

安全测评实施的基本方法是针对特定的测评对象采用相关的测评手段遵从一定的测评规程获

,,,

取需要的证据数据给出大模型安全保护状况的评判

,。

本文件中针对每一个控制点的测评构成一个测评单元每个测评单元的测评指标来自

。T/ISEAA005—

2

T/ISEAA006—2024

测评实施针对某个控制点下包含的所有具体要求项分别展开测评实施的内容完全覆盖了

2024,。

中所有要求项的测评要求

T/ISEAA005—2024。

在对每一要求项进行测评时可能用到访谈核查和测试三种测评方法也可能用到其中一种或两

,、,

种访谈是测评人员通过引导大模型系统保护对象相关人员进行有目的的有针对性的交流以帮助测

。()

评人员理解澄清或取得证据的过程核查是测评人员通过对测评对象如制度文档各类设备及相关安

、;(、

全配置等进行观察查验和分析以帮助测评人员理解澄清或取得证据的过程测试是测评人员使用

)、,、;

预定的方法工具使测评对象各类设备或安全配置产生特定的结果将运行结果与预期的结果进行比

/(),

对的过程预定的方法工具可能包括大模型数据基准集渗透测试数据集漏洞扫描工具渗透测试工

,/、、、

具等

。

5通用安全测评要求

51物理环境

.

511测评指标

..

本单元的测评指标包括

:

应设置机房防盗报警系统或设置有专人值守的视频监控系统

a);

应设置冗余或并行的电力电缆线路为计算机系统供电

b);

大模型系统基础设施宜位于中国境内

c)。

512测评实施

..

本单元的测评实施包括以下内容

。

核查大模型系统所在机房的防盗和防破坏措施的情况包括

a),:

核查机房内是否配置防盗报警系统或专人值守的视频监控系统

1);

核查防盗报警系统或视频监控系统是否启用

2)。

核查大模型系统所在机房是否设置了冗余或并行的电力电缆线路为计算机系统供电电力电

b),

缆是否来自不同的变电站

。

访谈并核查大模型系统及相关基础设施的部署情况包括

c),:

访谈运维管理员了解大模型系统所涉及的服务器存储设备网络设备服务平台等运行

1),、、、

业务和承载数据的软硬件是否均位于中国境内

;

核查大模型系统建设方案核查大模型系统涉及服务器存储设备网络设备服务平台等

2),、、、

运行业务和承载数据的软硬件是否均位于中国境内

。

513结果判定

..

如果均为肯定则符合本单元测评指标要求否则不符合或部分符合本单元测评指标要求

5.1.2,,。

52网络架构

.

521测评指标

..

本单元的测评指标包括

:

应保证网络设备的业务处理能力满足业务高峰期需要

a);

应保证网络各个部分的带宽满足业务高峰期需要

b);

3

T/ISEAA006—2024

应划分不同的网络区域并按照方便管理和控制的原则为各网络区域分配地址

c),;

应避免将重要网络区域部署在边界处重要网络区域与其他网络区域之间应采取可靠的技术

d),

隔离手段

;

应提供通信线路关键网络设备和关键计算设备的硬件冗余保证系统的可用性满足大模型

e)、,,

应用场景下的高算力需求

。

522测评实施

..

本单元的测评实施包括以下内容

。

核查并测试大模型系统的网络设备性能的情况包括

a),:

核查业务高峰时期一段时间内主要网络设备的利用率和内存使用情况是否满足业

1)CPU

务需求

;

核查网络设备是否从未出现过因设备性能问题导致的宕机情况

2);

测试验证设备是否满足业务高峰期需求

3)。

核查并测试大模型系统的业务带宽的情况包括

b),:

核查综合网管系统各通信链路带宽是否满足高峰时段的业务流量需要

1);

测试验证网络带宽是否满足业务高峰期需求

2)。

核查大模型系统的网络区域划分管理的情况包括

c),:

核查是否依据重要性部门等因素划分不同的网络区域

1)、;

核查相关网络设备配置信息验证划分的网络区域是否与划分原则一致

2),。

核查大模型系统的网络区域边界部署的情况包括

d),:

核查网络拓扑图是否与实际网络运行环境一致

1);

核查重要网络区域是否未部署在网络边界处

2);

核查重要网络区域与其他网络区域之间是否采取可靠的技术隔离手段如网闸防火墙和

3),、

设备访问控制列表等

(ACL)。

核查是否有关键网络设备安全设备和关键计算设备的硬件冗余主备或双活等和通信线路

e)、()

冗余

。

523结果判定

..

如果均为肯定则符合本单元测评指标要求否则不符合或部分符合本单元测评指标要求

5.2.2