GB/Z 222-2026 人工智能 模型即服务(MaaS)性能规范

ICS3524001

CCSL.70.

中华人民共和国国家标准化指导性技术文件

GB/Z222—2026

人工智能模型即服务MaaS性能规范

()

Artificialintellience—ModelasaserviceMaaSerformancesecification

g()pp

2026-08-27发布

国家市场监督管理总局发布

国家标准化管理委员会

GB/Z222—2026

目次

前言

…………………………Ⅲ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

缩略语

4……………………1

性能参数框架

5MaaS……………………1

概述

5.1…………………1

性能参数

5.2……………2

模型开发性能参数

5.2.1……………2

模型服务性能参数

5.2.2……………3

应用开发性能参数

5.2.3AI…………3

参数测试方法

6……………3

模型开发

6.1……………3

训练

6.1.1……………3

推理

6.1.2……………6

模型服务

6.2……………8

模型服务时延

6.2.1…………………8

模型服务吞吐率

6.2.2………………8

模型服务请求成功率

6.2.3…………9

生成式语言模型首时延

6.2.4token…………………9

生成式语言模型吞吐率

6.2.5token………………10

应用开发

6.3AI………………………10

应用服务时延

6.3.1AI………………10

应用服务吞吐率

6.3.2AI……………11

应用服务请求成功率

6.3.3AI………………………11

生成式应用服务首时延

6.3.4AItoken…………12

生成式应用服务吞吐率

6.3.5AItoken…………12

Ⅰ

GB/Z222—2026

前言

本文件为规范类指导性技术文件

。

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由全国信息技术标准化技术委员会提出并归口

(SAC/TC28)。

本文件起草单位中国电子技术标准化研究院北京百度网讯科技有限公司华为云计算技术有限

:、、

公司上海商汤智能科技有限公司浪潮电子信息产业股份有限公司浙江大华技术股份有限公司浪潮

、、、、

通信信息系统有限公司百度云智北京科技有限公司中国移动通信集团有限公司阿里云计算有限

、()、、

公司普元信息技术股份有限公司浪潮软件科技有限公司中移苏州软件技术有限公司中电信数智

、、、()、

科技有限公司中国移动通信集团设计院有限公司中国科学院信息工程研究所中国南方电网有限责

、、、

任公司超高压输电公司中移杭州信息技术有限公司杭州海康威视数字技术股份有限公司山东省

、()、、

人工智能研究院上海文鳐信息科技有限公司北京神舟航天软件技术股份有限公司国家能源投资集

、、、

团有限责任公司信息技术分公司广电运通集团股份有限公司深信服科技股份有限公司

、、。

本文件主要起草人谢永康鲍薇杨语澈李景秋徐洋曹晓琦邸贺亮吴庚杨雨泽黎世勇

:、、、、、、、、、、

施恩郑子木李旭东孔维生肖红梅张婷曹汐刘增志彭骏涛李照川杨灿坤仲凯韬蔡洛维

、、、、、、、、、、、、、

刘井强周震震付涛谢小燕王珂琛杨经纬张悦崔洪志张天霖密伟张传刚陈欢梁秉豪周彩红

、、、、、、、、、、、、、、

秦日臻潘风文侯金磊徐天适舒明雷陈利明单珂高宇徐金涛

、、、、、、、、。

Ⅲ

GB/Z222—2026

人工智能模型即服务MaaS性能规范

()

1范围

本文件确立了模型即服务性能参数框架并描述了对应的参数测试方法

(MaaS),。

本文件适用于模型即服务的性能参数测试

(MaaS)。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

人工智能模型即服务参考架构

GB/Z221—2026(MaaS)

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/Z221—2026。

31

.

模型即服务modelasaservice

提供模型开发使用和管理能力及所需资源且可规模化复制的服务模式

、。

4缩略语

下列缩略语适用于本文件

。

人工智能

AI:(ArtificialIntelligence)

图形处理单元

GPU:(GraphicsProcessingUnit)

输入输出

I/O:/(Input/Output)

模型即服务

MaaS:(ModelasaService)

张量处理单元

TPU:(TensorProcessingUnit)

加速线性代数

XLA:(AcceleratedLinearAlgebra)

5MaaS性能参数框架

51概述

.

性能影响任务响应速度业务生产效率用户使用体验模型使用成本等是评估的重

MaaS、、、,MaaS

要依据本文件定义了性能参数框架如图所示主要包括

。MaaS,1。:

模型开发性能包括训练性能和推理性能等方面的参数具体见

a),,5.2;

模型服务性能包括模型服务生成式语言模型服务等方面参数具体见

b),、,5.2;

应用开发性能包括应用服务生成式应用服务等方面的指标具体见

c)AI,AI、AI,5.2。

相应参数的一般性测试方法在第章给出

6。

1