DB11/T 2251-2024 信息安全 人工智能数据安全通用要求

ICS35.240

CCSL70

DB11

北京市地方标准

DB11/T2251—2024

信息安全人工智能数据安全通用要求

Informationsecurity—Generalrequirementsfordatasecurityof

artificialintelligence

2024-06-28发布2024-10-01实施

北京市市场监督管理局发布

DB11/T2251—2024

目次

前言............................................................................II

1范围...........................................................................1

2规范性引用文件.................................................................1

3术语和定义.....................................................................1

4基本原则.......................................................................2

5管理要求.......................................................................2

6数据处理活动安全要求...........................................................3

I

DB11/T2251—2024

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起

草。

本文件由北京市公安局提出并归口。

本文件由北京市公安局组织实施。

本文件起草单位：北京市公安局、北京市公安局人工智能安全研究中心、北京百度网讯科技有限公

司、北京瑞莱智慧科技有限公司、中国科学院计算技术研究所、科大讯飞股份有限公司、公安部第三研

究所、北京市标准化研究院。

本文件主要起草人：蔡瑜坤、曹奇、王崇鹏、张晓飞、孙毅、刘鸣、常峰博、吴尚、孔凡真、杨彬、

李晓波、王东明、辛铮、王海棠、郭建岭、周巧霖、樊子风、韦云霞、张旭东、曹娟、唐胜、朱莉莉、

孔凡胜、程鸣、孙文琦。

II

DB11/T2251—2024

信息安全人工智能数据安全通用要求

1范围

本文件规定了人工智能数据安全的基本原则、管理要求和处理活动安全要求。

本文件适用于指导人工智能服务提供者开展人工智能数据安全管理及数据处理活动的安全。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB/T25069信息安全技术术语

GB/T35273信息安全技术个人信息安全规范

GB/T41479信息安全技术网络数据处理安全要求

GB/T41867信息技术人工智能术语

GB/T43697信息安全技术数据分类分级规则

3术语和定义

GB/T25069、GB/T35273、GB/T41867和GB/T43697界定的以及下列术语和定义适用于本文件。

3.1

数据安全datasecurity

通过采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的

能力。

3.2

重要数据keydata

特定领域、特定群体、特定区域或达到一定精度和规模的数据，一旦被泄露或篡改、损毁，可

能直接危害国家安全、经济运行、社会稳定、公共健康和安全。

3.3

数据脱敏datamasking

通过一系列数据处理方法对原始数据进行处理，以屏蔽敏感数据的一种数据保护方法。

3.4

敏感个人信息sensitivepersonalinformation

一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的

个人信息，包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息，以及不

满十四周岁未成年人的个人信息。

1

DB11/T2251—2024

4基本原则

人工智能数据安全在管理、数据处理活动等应遵循以下原则：

a)保密性：采用技术和管理手段保证人工智能数据的保密性，并记录数据处理日志及确保日志

的保密性；

b)完整性：采用完整性校验的技术和管理手段，并对人工智能数据的完整性进行监测；

c)隐私性：采用技术和流程以保护个人信息主体的个人信