T/ZSA 164-2023 人工智能应用创新 智能云基础设施技术规范

ICS35.240

CCSL77

团体标准

T/ZSA164—2023

人工智能应用创新

智能云基础设施技术规范

Artificialintelligenceapplicationinnovation—Technicalspecificationofintelligent

cloudcomputinginfrastructure

2023-10-20发布2023-10-21实施

中关村标准化协会发布

T/ZSA164—2023

目次

前言............................................................................II

1范围.................................................................................3

2规范性引用文件.......................................................................3

3术语和定义...........................................................................3

4缩略语...............................................................................5

5总体技术架构.........................................................................5

6技术要求.............................................................................6

6.1智能云资源层.....................................................................7

6.1.1基础资源整合.................................................................7

6.1.2基础资源服务.................................................................8

6.2智能云中台层....................................................................10

6.2.1部署管理....................................................................10

6.2.2训练管理....................................................................10

6.2.3推理管理....................................................................11

6.2.4数据管理....................................................................12

6.2.5算法管理....................................................................13

6.2.6模型管理....................................................................14

6.2.7开发管理....................................................................15

6.3运营运维管理....................................................................16

6.3.1监控管理....................................................................16

6.3.2告警管理....................................................................16

6.3.3租户管理....................................................................17

6.3.4服务目录管理................................................................17

6.3.5计量计费管理................................................................17

6.3.6配额管理....................................................................17

6.4安全能力........................................................................17

6.4.1智能云资源层安全能力........................................................17

6.4.2智能云中台层安全能力........................................................17

I

T/ZSA164—2023

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由中关村数智人工智能产业联盟提出并归口。

本文件起草单位：赛迪检测认证中心有限公司、中关村数智人工智能产业联盟、中国软件评测中心

（工业和信息化部软件与集成电路促进中心）、上海东部科技成果转化有限公司、数动达观（北京）科

技有限公司、北京九章云极科技有限公司、济南浪潮数据技术有限公司、优刻得科技股份有限公司、中

科软科技股份有限公司、瑞莱信创技术（北京）有限公司、曙光云计算集团有限公司、腾讯云计算（北

京）有限责任公司、统信软件技术有限公司、麒麟软件有限公司、北京宝兰德软件股份有限公司、上海

泛微网络科技股份有限公司、上海亘岩网络科技有限公司、浪潮电子信息产业股份有限公司。

本文件主要起草人：刘云龙、贾昊、邹叔君、李安伦、翟艳芬、蒋宁、方磊、吕广杰、张百林、文

天乐、谢宇杰、王洋、袁鹏、于水、么雨田、代威、刘海涛、孟杰、王磊、战茅、李志伟、詹年科、王

伟东、刘超、杨国生、张建、谢传宇、李宝然、韩君辉、都静妍、谢姣。

II

T/ZSA164—2023

人工智能应用创新智能云基础设施技术规范

1范围

本文件规定了应用于人工智能领域（以下简称AI）的云基础设施的系统架构及技术要求，包括智能

云资源、智能云中台、运营运维管理及安全能力四部分。

本文件适用于AI云服务提供商及第三方机构开展业务活动时，为产品及服务的设计、开发、测试、

评估、维护及运营等提供参考依据。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB18030信息技术中文编码字符集

GB/T20272—2019信息安全技术操作系统安全技术要求

JR/T0166—2020云计算技术金融应用规范技术架构

3术语和定义

GB/T35295—2017界定的以及下列术语和定义适用于本文件。

3.1

智能云中台artificialintelligencemiddleendbasedcloudcomputing

将人工智能领域的技术组件、框架、工具、平台、环境等的公共能力抽取出来，构建成基于云计算

技术的可复用的服务，支撑数据服务或者业务逻辑服务的软件系统。

3.2

推理inference

推断

从已知前提导出结论的推理方法。

注1：在人工智能领域中，前提是事实或规则。

注2：术语“推理”既指过程也指结果。

[来源:GB/T5271.28—2001,28.03.01]

3.3

数据管理datamanagement

在数据处理系统中，提供对数据的访问，执行或监视数据的存储，以及控制输入输出操作等功能。

[来源:GB/T5271.1—2000,01.08.02]

3.4

框架（用于人工智能）frame（inartificialintelligence）

一种面向数据的知识表示，与具有一系列特征的某一对象相关联，其中每一个特征都存储在称为“槽”

的专用区域内。

[来源:GB/T5271.28—2001,28.02.13]

3.5

3

T/ZSA164—2023

数据集dataset

数据记录汇聚的数据形式。

注：它可以具有大数据的体量、速度、多样性和易变性特征。数据集的特征表征的是数据本身或静态数据，而数据

的特征，当其在网络上传输时或暂时驻留于计算机存储器中以备读出或更新时，表征的是动态数据。

[来源:GB/T35295—2017,2.1.46]

3.6

可用区availabilityzone

在智能云基础设施中，基于空调、电力设施、主机、网络、存储等物理资源的容灾因素划分出来的

物理区域。

3.7

虚拟机virtualmachine

通过各种虚拟化技术，为用户提供的与原有物理服务器相同的操作系统和应用程序运行环境的统称。

注：虚拟机通常使用物理服务器的资源，在用户看来它与物理服务器的使用方式完全相同。

[来源:JR/T0166—2020,3.22]

3.8

容器组pod

一个或多个共享存储、网络、命名空间及运行规范的容器组合。

3.9

访问服务service

一组容器及其外部访问入口。

3.10

机器学习machinelearning

从数据中自动分析获得规律，并利用规律对未知数据进行预测的方法。

通过获取、重组新知识或技能提升功能单元效能的过程。

[来源:ISO/IEC2382:2015(en),2123789,有修改]

3.11

深度学习deeplearning

通过训练具有许多隐层的神经网络创建丰富层次表示的方法。

训练神经网络构建含多个（≥1）隐藏层的层次化表达的方法。

[来源:ISO/IEC23053:2020CD,3.13,有修改]

3.12

云原生cloudnative

基于分布部署和统一运管的，以容器、微服务等技术为基础建立的一套云技术产品体系。

注：云原生具有容器化、模块化、持续交付、弹性分布式等特点。

3.13

网页集成开发环境WebIDE

针对编程开发人员的在线集成开发环境，编程人员无需本地安装开发环境，通过打开浏览器就可以

进行开发，并支持断点调试、版本管理、团队开发等能力。

4

T/ZSA164—2023

3.14

隐私保护计算privacy-preservingcomputation

隐私计算

一类技术方案，在处理和分析计算数据的过程中能保持数据不透明、不泄露、无法被计算方以及其

他非授权方获取。

[来源：联合国隐私保护计算技术手册.大数据联合国全球工作组,©2019]

注：隐私计算是一个技术范畴和集合。可信执行环境、多方安全计算、联邦学习等都属于隐私计算技术。

4缩略语

下列缩略语适用于本文件。

AI：人工智能（ArtificialIntelligence）

API：应用程序编程接口（ApplicationProgrammingInterface）

ARM：微处理器（AdvancedRISCMachine）

ASIC：专用集成电路（ApplicationSpecificIntegratedCircuit）

CPU：中央处理器（CentralProcessingUnit）

CV：计算机视觉（ComputerVision）

DHCP：动态主机配置协议（DynamicHostConfigurationProtocol）

DNS：域名系统（DomainNameSystem）

GPU：图形处理器（GraphicsProcessingUnit）

HBA：主机总线适配器（HostBusAdapter）

HCA：主机通道适配器（HostChannelAdapter）

HDFS：Hadoop分布式文件系统（HadoopDistributedFileSystem）

H5：分层数据格式的第5代版本（TheHierarchicalDataFormatVersion5）

IaaS：基础设施即服务（InfrastructureasaService）

I/O：输入/输出（Input/Output）

IP：网际协议（InternetProtocol）

JDBC：Java语言连接数据库（JavaDatabaseConnectivity）

JSON：JS对象简谱（JavaScriptObjectNotation）

MIG：多实例GPU（Multi-InstanceGPU）

MIPS：无内部互锁流水级的微处理器（MicroprocessorwithoutInterlockedPipelineStages）

NFS：网络文件系统（NetworkFileSystem）

NLP：自然语言处理（NaturalLanguageProcessing）

ONNX：开放神经网络交换（OpenNeuralNetworkExchange）

PKL：一种由Python的Pickle模块创建的文件格式（Pickle）

PMML：预测模型标记语言（PredictiveModelMarkupLanguage）

SDK：软件开发工具包（SoftwareDevelopmentKit）

SDN：软件定义网络（SoftwareDefinedNetwork）

USB：通用串行总线（UniversalSerialBus）

VPC：虚拟私有云（VirtualPrivateCloud）

VPN：虚拟专用网络（VirtualPrivateNetwork）

XML：可扩展标记语言（ExtensibleMarkupLanguage）

5总体技术架构

5.1如图