T/ISEAA 006-2024 大模型系统安全测评要求

ICS35.040

CCSL80

团体标准

/—

TISEAA0062024

大模型系统安全测评要求

Securitevaluationreuirementsforlaremodelsstem

yqgy

2024-04-30发布2024-06-01实施

中关村信息安全测评联盟发布

中国标准出版社出版

/—

TISEAA0062024

目次

前言…………………………Ⅲ

引言…………………………Ⅳ

1范围………………………1

2规范性引用文件…………………………1

3术语和定义………………1

4概述………………………1

4.1大模型系统架构……………………1

4.2安全测评方法………………………2

5通用安全测评要求………………………3

5.1物理环境……………3

5.2网络架构……………3

5.3边界防护……………4

5.4身份鉴别……………5

5.5访问控制……………6

5.6安全审计……………7

5.7入侵防范……………9

5.8恶意代码防范………………………10

5.9集中管控……………10

5.10供应链管理………………………11

5.11个人信息保护……………………12

5.12数据安全保护……………………14

5.13备份恢复…………………………15

5.14数据溯源…………………………15

6设计开发安全测评要求…………………16

6.1数据处理……………16

6.2模型保护……………19

6.3内容安全……………21

7测试安全测评要求………………………23

7.1模型评估……………23

7.2模型更新……………24

8部署与运行安全测评要求………………25

8.1模型部署……………25

8.2攻击检测……………26

Ⅰ

/—

TISEAA0062024

8.3运行监测……………27

8.4系统管理……………28

8.5变更管理……………28

8.6安全事件处置………………………29

8.7应急预案管理………………………29

9退役安全测评要求………………………30

9.1模型退役……………30

9.2数据删除……………31

10测评结论判定…………………………31

10.1分类测评结果……………………31

10.2风险分析和评价…………………31

10.3测评结论判定……………………31

参考文献……………………32

Ⅱ

/—

TISEAA0062024

前言

/—《:》

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GBT1.120201

起草。

本文件由中关村信息安全测评联盟提出并归口。

:、、、

本文件起草单位公安部第三研究所北京百度网讯科技有限公司蚂蚁科技集团股份有限公司

、、、

浙江大学北京天融信网络安全技术有限公司启明星辰信息技术集团股份有限公司快手科技有限公

、、、

司上海商汤智能科技有限公司北京远鉴信息技术有限公司深圳市网安计算机安全检测技术有限公

、、、、

司山东新潮信息技术有限公司金盾检测技术股份有限公司上海市信息安全测评认证中心杭州中尔

、、、、

网络科技有限公司华为技术有限公司阿里云计算有限公司深信服科技股份有限公司科大讯飞股份

、、、、

有限公司北京百川智能科技有限公司北京小桔科技有限公司优刻得科技股份有限公司浙江君同智

能科技有限责任公司。

:、、、、、、、、、、

本文件主要起草人袁静刘金鑫刘楠张国鹏文煜乾陆臻陈广勇苏艳芳刘继顺郭建领

、、、、、、、、、、、、、、

唐佳伟李荣昌杨剑蒋发群谷晨徐浩郑榕牛建红刘智广高亚敏朱熹铭王余王龑邵英杰

、、、、、、、、、、。

孙钰娆张瑶严敏瑞孙勇叶润国吴晓杰李建民樊玉杰冯明韩蒙林昶廷

Ⅲ

/—

TISEAA0062024

引言

,

为规范大模型系统安全测评工作的开展本文件对大模型系统进行安全测评的技术活动提出要

,/—《》

求为评价大模型系统是否符合TISEAA0052024大模型系统安全保护要求提供了获取证据的途

,。

径和方法用以指导测评人员对大模型系统进行测试评估

Ⅳ

/—

TISEAA0062024

大模型系统安全测评要求

1范围

本文件规定了大模型系统是否符合/—所进行的测试评估活动的要求。

TISEAA0052024

、、

本文件适用于指导网络安全测评服务机构大模型开发者大模型系统运营者对大模型及大模型系

,

统安全保护状况进行安全测试评估大模型安全监管职能部门依法开展大模型安全保护监督检查参考

使用。

2规范性引用文件

。,

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

,;,()

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

本文件。

/—信息安全技术网络安全等级保护基本要求

GBT222392019

/信息安全技术术语

GBT25069

/—大模型系统安全保护要求

TISEAA0052024

3术语和定义

/、/界定的以及下列术语和定义适用于本文件。

GBT22239GBT25069

3.1

大模型laremodel

g

,、。

基于大量数据集训练得到的具备大参数量复杂结构的机器学习模型

[:/—,]

来源TISEAA00520243.1

3.2

大模型服务laremodelservice

g

、、、,、、、

基于数据算法模型规则能够根据使用者提示生成文本图片音频视频等内容的人工智能

服务。

:。

注大模型服务根据行业应用可分为通用大模型服务和行业大模型服务

[:/—,]

来源TISEAA00520243.2

3.3

大模型系统laremodelsstem

gy

,

由计算机或者其他信息终端及相关设备组成的按照一定的规则和程序基于大模型进行数据处理

或提供大模型服务的系统或平台。

[:/—,]

来源TISEAA00520243.3

4概述

4.1大模型系统架构

、、,。

大模型系统可抽象为基础设施层平台层模型层和应用层如图所示

1

1