GB/T 45280-2025 人工智能 异构人工智能加速器统一接口

ICS35020

CCSL.70

中华人民共和国国家标准

GB/T45280—2025

人工智能异构人工智能

加速器统一接口

Artificialintelligence—Unifiedinterfacesforheterogeneousartificial

intelligenceacceleratingunits

2025-02-28发布2025-02-28实施

国家市场监督管理总局发布

国家标准化管理委员会

GB/T45280—2025

目次

前言

…………………………Ⅲ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

缩略语

4……………………2

概述

5………………………2

接口功能

5.1……………2

架构

5.2…………………2

基本概念

5.3……………3

接入方法

6…………………4

加速器

6.1………………4

机器学习框架

6.2………………………4

运行过程说明

6.3………………………4

接口要求

7…………………5

接口执行状态

7.1………………………5

接口参数

7.2……………5

精度

7.3…………………5

枚举

7.4…………………5

接口定义

8…………………6

计算图表示接口

8.1……………………6

运行时接口

8.2…………………………18

算子表示接口

8.3………………………44

符合性测试方法

9…………………………46

通则

9.1…………………46

测试过程

9.2……………47

指标及测量方法

9.3……………………48

附录规范性返回码

A()…………………51

附录规范性枚举

B()……………………54

附录规范性算子定义

C()………………57

附录资料性领域接口

D()………………78

附录资料性接口示例

E()………………83

附录规范性测试项

F()…………………85

参考文献

……………………87

Ⅰ

GB/T45280—2025

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由全国信息技术标准化技术委员会提出并归口

(SAC/TC28)。

本文件起草单位中国电子技术标准化研究院华为技术有限公司上海人工智能创新中心北京航

:、、、

空航天大学上海燧原科技股份有限公司北京壁仞科技开发有限公司上海天数智芯半导体有限公司

、、、、

中科寒武纪科技股份有限公司英特尔中国有限公司深圳云天励飞技术股份有限公司沐曦集成电

、()、、

路上海有限公司中国科学院软件研究所浪潮电子信息产业股份有限公司北京大学上海市人工智

()、、、、

能行业协会华为云计算技术有限公司上海商汤智能科技有限公司北京智芯微电子科技有限公司

、、、、

平头哥上海半导体技术有限公司杭州海康威视数字技术股份有限公司中国移动通信集团有限公

()、、

司深圳鲲云信息科技有限公司龙芯中科技术股份有限公司南京南瑞瑞腾科技有限责任公司苏州登

、、、、

临科技有限公司南方电网人工智能科技有限公司美的集团上海有限公司北京大学长沙计算与数

、、()、

字经济研究院北京航空航天大学杭州创新研究院四川华鲲振宇智能科技有限责任公司山东浪潮科

、、、

学研究院有限公司中国南方电网有限责任公司西南科技大学浙江大华技术股份有限公司北京格灵

、、、、

深瞳信息技术股份有限公司北京电子数智科技有限责任公司

、。

本文件主要起草人董建杨雨泽张亚丽徐洋张行程鲍薇刘文枫裴芝林王莞尔曹晓琦

:、、、、、、、、、、

马骋昊栾钟治梅敬青丁瑞全胡铭珊程归鹏王海宁苏岚刘梓孟令中马珊珊李斌斌宿栋栋

、、、、、、、、、、、、、

杨超赵春昊刘勇钟普张艺伯章放金镝蔡权雄马莞悦石超慈红斌陈柔伊蔡亚森贾梦珠

、、、、、、、、、、、、、、

胡征慧赵彦钧李锐张喜铭徐欢俞文心方贵明于杰郭文

、、、、、、、、。

Ⅲ

GB/T45280—2025

人工智能异构人工智能

加速器统一接口

1范围

本文件定义了异构人工智能加速器的统一接口及其语义和使用方法描述了各加速器为实现此接

,

口所需的接入方法和试验方法

。

本文件适用于人工智能加速器接口的设计和实现也可为人工智能加速器应用提供参考

,。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息技术人工智能术语

GB/T41867—2022

人工智能服务器系统性能测试方法

GB/T45087—2024

信息技术微处理器系统浮点运算

GB/T17966—2024

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T41867-2022。

31

.

应用编程接口alicationrorammininterface

[][pppgg]

人工智能用来使用人工智能加速器功能的语法和语义定义

<>。

来源有修改

[:ISO/IEC/IEEE9945:2009,3.19,]

32

.

人工智能加速处理器artificialintelligenceacceleratingprocessor

[]

人工智能加速芯片artificialintelligenceacceleratingchip

具备适配人工智能算法的运算微架构能够完成人工智能应用运算处理的集成电路元件

,。

注在本文件中在不引起误解的语境中将人工智能加速器简称为加速器

:,,。

来源

[:GB/T41867—2022,3.1.5]

33

.

计算图computationalgraph

用来表示数学函数由节点和连接构成的有向图

,。

注1节点表示数学运算即算子

:,。

注2连接表示数学运算之间的依赖关系

:。

注3一个连接联通起始节点和终止节点

:。

来源有修改

[:ISO/IEC/IEEE24765:2017,3.1762.1,]

1