YY/T 1833.5-2024 人工智能医疗器械 质量要求和评价 第5部分：预训练模型

ICS1104099

CCSC.30.

中华人民共和国医药行业标准

YY/T18335—2024

.

人工智能医疗器械质量要求和评价

第5部分预训练模型

:

Artificialintelligencemedicaldevice—Qualityrequirementsandevaluation—

Part5Pre-trainedmodels

:

2024-09-29发布2025-10-15实施

国家药品监督管理局发布

YY/T18335—2024

.

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

预训练模型说明要求

4……………………2

预训练模型质量特性

5……………………5

预训练模型质量符合性评价方法

6………………………6

附录资料性预训练相关要素的扩展说明

A()…………8

附录资料性模型说明描述示例

B()……………………13

参考文献

……………………20

Ⅰ

YY/T18335—2024

.

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

本文件是人工智能医疗器械质量要求和评价的第部分已经发布

YY/T1833《》5。YY/T1833

了以下部分

:

第部分术语

———1:;

第部分数据集通用要求

———2:;

第部分数据标注通用要求

———3:;

第部分可追溯性

———4:;

第部分预训练模型

———5:。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由国家药品监督管理局提出

。

本文件由全国人工智能医疗器械标准化技术归口单位归口

。

本文件起草单位浙江柏视医疗科技有限公司中国食品药品检定研究院国家药品监督管理局医

:、、

疗器械技术审评中心国家卫生健康委卫生发展研究中心中国医学科学院医学信息研究所中国科学

、、、

技术大学苏州高等研究院浙江大学哈尔滨工业大学北京邮电大学北京理工大学清华大学北京京

、、、、、、

津冀国家技术创新中心上海市医疗器械检验研究院中国人民解放军总医院飞利浦中国投资有限

、、、()

公司华为技术有限公司北京元影科技有限公司

、、。

本文件主要起草人颜子夜李静莉毛殊凡游茂刘枭寅高东平周少华吴健黄剑华周修庄

:、、、、、、、、、、

李建武王雪霞罗琳陆遥王浩孟祥峰刘重生何昆仑葛鑫符海芳田孟秋甄浩李澍

、、、、、、、、、、、、。

Ⅲ

YY/T18335—2024

.

引言

预训练模型已经成为人工智能领域的重要概念和人工智能医疗器械研发的常用资源基于预训练

。

模型和迁移学习的深度学习算法在人工智能医疗器械领域得到了广泛采用由于预训练模型存在黑箱

。

特性质量参差不齐基于预训练模型研发的人工智能医疗器械存在不可预知的风险影响产品的安全

,,,

性和有效性业内亟需提出预训练模型的质量要求和评价方法为人工智能医疗器械的产品质量控制

。,

提供基础保障

。

按照我国已初步建立的人工智能医疗器械标准体系人工智能医疗器械质量要求和

,YY/T1833《

评价系列基础通用标准拟由八个部分构成

》。

第部分术语目的在于为人工智能医疗器械的质量评价活动提供术语

———1:。。

第部分数据集通用要求目的在于提出数据集的通用质量要求与评价方法

———2:。。

第部分数据标注通用要求目的在于提出数据标注环节的质量要求与评价方法

———3:。。

第部分可追溯性目的在于明确人工智能医疗器械的可追溯性通用要求与评价方法

———4:。。

第部分预训练模型目的在于规范人工智能医疗器械采用的预训练模型质量

———5:。。

第部分环境要求目的在于规范人工智能医疗器械的运行环境条件要求与评价方法

———6:。。

第部分隐私保护要求目的在于加强人工智能医疗器械保护受试者隐私的能力

———7:。。

第部分伦理要求目的在于从技术层面实现人工智能伦理的要求保护人的权益

———8:。,。

本文件为人工智能医疗器械使用的预训练模型质量评价的相关工作提供了思路也为后续制定细

,

分算法模型专用质量要求提供了依据

。

人工智能医疗器械使用的预训练模型来源广泛包括医疗器械厂家第三方供应商第三方服务平

,、、

台网络开源等受技术商业和政策等因素限制预训练模型的技术细节研发过程和质量控制等全套

、。、,、

记录一般较难获取为了有效地控制和追溯人工智能医疗器械终产品的质量本文件对人工智能医疗

。,

器械使用的预训练模型本身和相应说明文档提出质量要求和评价方法以引导人工智能医疗器械厂家

,

从内部加强质量控制

。

由于预训练模型本身不属于医疗器械且技术路线处于快速发展阶段本文件不对预训练模型本身

,

的研发过程进行约束避免限制创新对于预训练模型的版本变更采用动态更新的第三方服务具备

,。、、

自学习能力等情形本文件基于具体时间和具体版本进行质量评价版本变更和更新参照医疗器械变更

,,

规定和标准进行管理

。

对于研发企业本文件为预训练模型的遴选质量控制提供了依据对于第三方检测机构本文件

,、。,

为预训练模型的测试活动提供了依据

。

Ⅳ

YY/T18335—2024

.

人工智能医疗器械质量要求和评价

第5部分预训练模型

:

1范围

本文件规定了人工智能医疗器械使用的预训练模型的通用质量要求描述了相应的评价方法

,。

本文件适用于人工智能医疗器械使用的预训练模型

。

本文件不适用于预训练模型的研发过程评价

。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

人工智能医疗器械质量要求和评价第部分术语

YY/T1833.11:

人工智能医疗器械质量要求和评价第部分数据集通用要求

YY/T1833.2—20222:

人工智能医疗器械质量要求和评价第部分数据标注通用要求

YY/T1833.3—20223:

3术语和定义

界定的以及下列术语和定义适用于本文件

YY/T1833.1。

31

.

预训练模型pre-trainedmodel

已在数据集上经过训练的计算模型可用作新任务的基础

,。

注预训练模型狭义上通常用于迁移学习其中模型在一个源任务上进行预训练然后在下游任务上进行微调在

:,,;

广义上预训练模型可能作为机器学习模型的初始值供下游任务进行微调附录中对预训练模型的

,,。AA.1

来源和类别进行扩展性说明

。

32

.

预训练模型说明pre-trainedmodeldescription

陈述预训练模型各种性质的文档

。

33

.

任务域taskdomain

机器学习模型需要解决的特定问题或任务的领域

。

注在人工智能医疗器械的应用中任务域的示例有影像病灶检测影像学征象分类影像感兴趣区域分

:,:、、ROI()

割超声视频分割影像报告生成心电信号检测图像生成流程优化等

、、、、、。

34

.

源任务sourcetask

用于训练机器学习模型的初始任务

。

注对源任务下游任务和预训练模型的关系进行说明

:A.2、。

1

YY/T18335—2024

.

35

.

下游任务downstreamtask

预训练模型利用预训练中获得的泛化能力所要解决的现实任务通常根据对应任务的数据集和任

,

务类型通过对预训练模型进行微调来实现

。

36

.

数据模态datamodality

数据集中收集或表示数据的类型或形式

。

注人工智能医疗器械中的常见数据模态包括医学图像文本信号数据和结构化数据等

:、、。

37

.

超参数hyperparameter

事先给定的用来控制学习过程的参数

,。

注超参数包含模型层数模型节点数以及学习率等

:、,。

38

.

微调fine-tuning

为提升人工智能模型的预测精确度一种先以大型广泛领域数据集训练再以小型专门领域数据集

,,

继续训练的附加训练技术

。

来源

[:GB/T41867—2022,3.4.29]

39

.

本体ontology

对一个论域中存在的概念及其关系和性质的可共享的形式化的显现的描述使用该本体所建立

、、;

的模型可以被其他人员或系统共享

。

注本文件中的论域指一个问题或任务的上下文或领域用于描述问题的范围或限定以便更好地理解和解决

:,,

问题

。

4预训练模型说明要求

41概述

.

预训练模型提供方需描述与该预训练模型本体相关的过程方法和所使用数据集的全部相关细

、

节包括预训练模型的版本标识发布版本号模型框架用于预训练的训练数据及数据集构建方法标

,()、、、

注方法训练过程模型适用性及其他相关细节

、、。

注给出预训练模型提供方的扩展性描述附录给出的示例

:A.3,B4.2~4.5。

42模型框架描述

.

421模型结构

..

预训练模型说明应描述模型的整体结构及来源如模型结构属于对已公开结构的修改应详细描

。,

述二者的差异如模型结构属于未公开的自研结构则需详细描述该模型构成的详细数学或结构表述

;,。

注给出常见的深度学习和非深度学习的模型结构示例

:A.4。

422模型节点

..

预训练模型说明应描述模型节点信息该节点信息宜包含神经元节点数量分布方式激活函数连

,、、、

接方式等

。

注神经元节点为深度神经网络的最小组成节点如模型为非神经网络的算法应说明模型的算法类型以及其最小

:,,

2

YY/T18335—2024

.

组成单位

。

423模型参数

..

预训练模型说明应描述模型中带有参数的各层相应的参数元数据该元数据宜包括模型各层的节

。

点数量组合关系和类别

、。

注给出模型参数的元数据示例

:A.5。

424模型数据表示

..

预训练模型说明应描述预训练模型中使用的数据表示如数据的抽象程度数据类型及规模用于

。、、

将原始数据映射到预训练模型中的编码方法数据必要的预处理后处理等数据抽象程度应描述可被

、、。

模型处理的数据被抽象化的程度可包含原始数据动态数据图像数据信号数据等和特征数据由特

,(、、)(

征提取器获得的抽象特征数据

)。

注1抽象程度是对从数据到特征进行抽象过程复杂性和深度的一种度量描述随着特征的传递逐渐增加预训

:,。

练模型的输入可能是原始数据或已被提取的特征数据给出特征的概念

。A.6。

数据类型

a)

应描述模型输入接受的数据类型该数据类型可包括整数浮点数字符串列表数组等

,、、、、。

数据维度和大小

b)

应描述模型中接受数据的维度以及各维度下的数据元素个数

。

编码方式

c)

应描述原始数据如何在模型中被映射包括使用各种编码方法如独热编码标

,,(one-hotencoding)、

签编码序列编码频数编码目标编码

(labelencoding)、(ordinalencoding)、(countencoding)、(targeten-

等

coding)。

注2给出常见的各种编码方式的描述

:A.7。

数据处理

d)

应描述模型能够接受的输入数据的限定输出数据的形式以及输入输出数据需进行的必要处理

、。

如适用应描述模型接受数据所需要的预处理如归一化缩放如适用应描述模型输出数据的后处

,,、。,

理如拼接插值平滑等

,、、。

425模型可解释性

..

如适用预训练模型说明宜描述模型的可解释性

,。

注给出模型可解释性的含义

:A.8。

43源任务数据描述

.

431数据模态

..

预训练模型说明应描述对预训练模型进行训练时使用的源任务数据模态如语音自然图像医学

,,、、

图像等如适用应对医学数据的采集设备进行说明应描述是否使用仿真数据对预训练模型进行训

。,。

练如使用了仿真数据应详细描述数据生成方法和步骤如适用应描述训练数据标注的相关信息该

,,。,,

信息宜包含标注的来源数量以及标注质量的说明

、。

432数据量

..

预训练模型说明应描述用于训练预训练模型的数据总量如适用应描述每种数据模态的数据量

。,;

应描述预训练过程中数据划分方式该说明应包含训练集验证集和测试集的数据量以及训练集验

。、,、

证集和测试集之间的分布差异

。

3

YY/T18335—2024

.

433数据质量

..

预训练模型说明应描述用于预训练模型训练数据质量数据质量应包括数据的准确性完整性和

。、

一致性应说明用于选择训练数据的质量标准如数据来源可靠性和相关性以及数据清洗的步骤

。,、,。

对于模型训练过程中使用的数据集如满足的要求应在预训练模型说明文

,YY/T1833.2—2022,

档中按照中第章数据集说明文档的要求进行说明如数据集建立过程依从特

YY/T1833.2—20224。

定标准应在预训练模型说明文档中进行说明对带有标注结果的数据集如满足

,。,YY/T1833.3—2022

的要求应在预训练模型说明文档中按照中第章数据标注任务说明文档的要求

,YY/T1833.3—20224