GB/T 47849-2026 人工智能 边端设备模型部署工具链功能要求

ICS35.240

CCSL70

中华人民共和国国家标准

/—

GBT478492026

人工智能

边端设备模型部署工具链功能要求

—

ArtificialintellienceFunctionalreuirementsofedeand

gqg

terminaldevicemodeldelomenttoolchain

py

2026-07-02发布2027-02-01实施

国家市场监督管理总局

发布

国家标准化管理委员会

/—

GBT478492026

目次

前言…………………………Ⅲ

1范围………………………1

2规范性引用文件…………………………1

3术语和定义………………1

4缩略语……………………1

5组成框架和流程…………………………2

5.1框架组成……………2

5.2工具链流程…………………………3

5.3模型压缩模块………………………3

5.4模型转换模块………………………3

5.5推理加速模块………………………4

5.6辅助功能模块………………………4

6功能要求…………………5

6.1模型压缩模块………………………5

6.2模型转换模块………………………6

6.3推理加速模块………………………6

6.4辅助功能模块………………………8

()…………

附录资料性模型压缩算法适配层技术选型与应用示例

A10

()…………

附录资料性多模式训练接口层不同训练模式配置示例

B11

Ⅰ

/—

GBT478492026

前言

/—《:》

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GBT1.120201

起草。

。。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

本文件由全国信息技术标准化委员会(/)提出并归口。

SACTC28

:、()、

本文件起草单位中国电子技术标准化研究院美的集团上海有限公司北京人形机器人创新中

、、、

心有限公司上海商汤智能科技有限公司海信集团控股股份有限公司深圳市优必选科技股份有限公

、、、、、

司北京航空航天大学浙江大学深圳云天励飞技术股份有限公司青岛港国际股份有限公司美的集

、、、、

团股份有限公司深圳市矽赫科技有限公司北京嘀嘀无限科技发展有限公司武汉大学杭州海康威视

、、、

数字技术股份有限公司广电运通集团股份有限公司中国科学院计算技术研究所浪潮云信息技术股

、、、、

份公司中国移动通信集团有限公司上海人工智能创新中心北京宝兰德软件股份有限公司北京智芯

微电子科技有限公司。

:、、、、、、、、、、、

本文件主要起草人董建徐洋孙传兴唐剑刘宁赵东宇蔡亚森何伟宏龚睿昊吴庚刘常昱

、、、、、、、、、、、、、

梁乔玲郭晋阳吴飞张圣宇马骋昊沈芷月蔡万伟毕涛吴宇震郭乙运脱立恒洪鹏辉吴国斌

、、、、、、、、。

江佳伟章放杨波张宗帅王功明张站朝蒋慧詹年科刘勇

Ⅲ

/—

GBT478492026

人工智能

边端设备模型部署工具链功能要求

1范围

,。

本文件确立了边端设备模型部署工具链的组成框架和流程规定了功能要求

、。

本文件适用于边端设备模型部署工具链的设计研发和应用

本文件不适用于仅面向云端部署的模型工具链。

2规范性引用文件

。,

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

,;,()

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

本文件。

/—信息技术人工智能术语

GBT418672022

/—人工智能深度学习编译器接口

GBT463452025

3术语和定义

/—和/—界定的以及下列术语和定义适用于本文件。

GBT418672022GBT463452025

3.1

边端设备edeandterminaldevice

g

()(

部署在网络边侧的硬件设备即边侧设备和直接面向应用场景或用户的末端硬件设备即终端侧

)。

设备的总称

:、、、。

注常见边侧设备包含边缘服务器边缘网关智能工业网关边缘计算盒子等

1

:、、、。

注常见终端侧设备包含可穿戴设备智能相机机器人物联网设备等

2

3.2

模型部署modeldeloment

py

将深度学习模型适配并运行至硬件设备的过程。

:、、、。

注包括模型压缩模型转换计算图优化编译优化等过程

3.3

工具链toolchain

、、、。

对深度学习模型进行模型压缩模型转换图优化编译优化等流程处理的软件工具组合

3.4

模型量化modeluantization

q

模型参数由高精度数值转换为低精度数值的过程。

4缩略语

下列缩略语适用于本文件。

1