(19)中华 人民共和国 国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202111644376.2
(22)申请日 2021.12.2 9
(71)申请人 浙江大华 技术股份有限公司
地址 310051 浙江省杭州市滨江区滨安路
1187号
(72)发明人 鄢铭
(74)专利代理 机构 北京康信知识产权代理有限
责任公司 1 1240
代理人 张丹红
(51)Int.Cl.
G06N 3/04(2006.01)
G06N 3/08(2006.01)
G06N 5/04(2006.01)
(54)发明名称
网络模型的转换方法、 装置、 系统、 存储介质
及电子装置
(57)摘要
本发明实施例提供了一种网络模型的转换
方法、 装置、 系统、 存储介质及电子装置, 其中, 该
方法包括: 将在第一处理器中训练得到的训练网
络模型的第一模型文件转换为预定格式的中间
模型文件; 确定与第二处理器对应的模型转换模
块的第二模型文件, 其中, 第二处理器与第一处
理器为不同类型的处理器; 基于中间模型文件以
及第二模型文件确定推理算子包; 将推理算子包
发送给包括第二处理器的第一设备, 以指示第一
设备基于推理算子包将训练网络模型转换为与
第二处理器匹配的目标网络模型。 通过本发明,
解决了相关技术中存在的将网络模型在不同类
型的处理器中转换成本高的问题, 达到降低网络
模型在不同类型的处 理器中转换成本的效果。
权利要求书3页 说明书12页 附图6页
CN 114298284 A
2022.04.08
CN 114298284 A
1.一种网络模型的转换 方法, 其特 征在于, 包括:
将在第一处理器中训练得到的训练网络模型的第一模型文件转换为预定格式的中间
模型文件;
确定与第二处理器对应的模型转换模块的第二模型文件, 其中, 所述第二处理器与所
述第一处 理器为不同类型的处 理器;
基于所述中间模型文件以及所述第二模型文件确定推理算子包;
将所述推理算子包发送给包括所述第 二处理器的第 一设备, 以指示所述第 一设备基于
所述推理算子包将所述训练网络模型转换为与所述第二处 理器匹配的目标网络模型。
2.根据权利要求1所述的方法, 其特征在于, 基于所述中间模型文件以及所述第 二模型
文件确定推理算子包 包括:
获取训练所述训练网络模型 所使用的训练数据;
确定与所述第二处 理器对应的推理算法;
按照预定规则打包所述中间模型文件、 所述第二模型文件、 所述训练数据以及所述推
理算法, 以得到所述推理算子包。
3.根据权利要求1所述的方法, 其特征在于, 在基于所述中间模型文件以及所述第 二模
型文件确定推理算子包之后, 所述方法还 包括:
确定所述推理算子包的统一资源定位符;
将所述统一资源定位符发送给所述第 一设备, 以指示所述第 一设备基于所述统一资源
定位符发送请求信息, 其中, 所述请求信息用于请求所述推理算子包。
4.根据权利要求3所述的方法, 其特征在于, 在将所述统一资源定位符发送给所述第 一
设备之后, 所述方法还 包括:
接收第一设备发送的所述请求信息;
基于所述请求信息向所述第一设备发送所述推理算子包。
5.一种网络模型的转换 方法, 其特 征在于, 包括:
向包括第一处理器的第二设备发送请求信息, 其中, 所述请求信息用于请求推理算子
包, 所述推理算子包为所述第一处理器基于中间模型文件以及与第一设备中包括的第二处
理器对应的模型转换模块的第二模型文件确定的, 所述中间模型文件为在第一处理器中训
练得到的训练网络模型的第一模型文件转换成的预定格式的文件;
基于所述推理算子包将所述训练网络模型转换为与所述第二处理器匹配的目标网络
模型。
6.根据权利要求5所述的方法, 其特征在于, 基于所述推理算子包将所述训练网络模型
转换为与所述第二处 理器匹配的目标网络模型包括:
解析所述推理算子包, 得到中间模型文件、 所述模型转换模块的第二模型文件、 训练数
据,
运行所述第二模型文件, 得到模型转换模块;
基于所述模型转换模块、 所述中间模型文件以及所述训练数据进行模型转换, 以得到
所述目标网络模型。
7.根据权利要求6所述的方法, 其特征在于, 基于所述模型转换模块、 所述中间模型文
件以及所述训练数据进行模型转换, 以得到所述目标网络模型包括:权 利 要 求 书 1/3 页
2
CN 114298284 A
2通过所述模型转换模块加载 所述中间模型文件, 得到转换后的转换网络模型;
将所述训练数据中包括的训练样本 输入至所述 转换网络模型, 确定训练结果;
确定与所述训练样本对应的标签结果与所述训练结果之间的误差;
在所述误差小于预定阈值的情况 下, 将所述 转换网络模型确定为所述目标网络模型。
8.根据权利要求7所述的方法, 其特征在于, 在将所述转换网络模型确定为所述目标网
络模型之后, 所述方法还 包括:
确定所述推理算子包中包括的推理算法, 其中, 所述推理算法为与所述第二处理器对
应的推理算法;
运行所述推理算法, 以启动所述目标网络模型;
基于启动 后的所述目标网络模型 执行目标操作。
9.根据权利要求5所述的方法, 其特征在于, 在 向第一处理器发送请求信息之前, 所述
方法还包括:
接收所述第二设备发送的所述推理算子包的统一资源定位符;
基于所述统一资源定位符发送所述请求信息 。
10.根据权利要求5所述的方法, 其特 征在于, 向第一处 理器发送请求信息包括:
确定所述目标网络模型的存在状态;
在所述存在状态指示不存在所述目标网络模型的情况下, 向所述第 二设备发送请求信
息。
11.一种网络模型的转换 方法, 其特 征在于, 包括:
第二设备将推理算子包发送给第一设备, 其中, 所述推理算子包为所述第二设备基于
中间模型文件以及与所述第一设备对应的模型转换模块的第二模型文件确定的算子包, 所
述中间模型文件为在所述第二设备中训练得到的训练网络模型的第一模型文件转换成的
预定格式的文件;
所述第一设备接收所述推理算子包, 并基于所述推理算子包将所述训练网络模型转换
为与所述第一设备匹配的目标网络模型, 其中, 所述第一设备与所述第二设备中包括有不
同类型的处 理器。
12.一种网络模型的转换装置, 其特 征在于, 包括:
第一转换模块, 用于将在第 一处理器中训练得到的训练网络模型的第 一模型文件转换
为预定格式的中间模型文件;
第一确定模块, 用于确定与第 二处理器对应的模型转换模块的第二模型文件, 其中, 所
述第二处 理器与所述第一处 理器为不同类型的处 理器;
第二确定模块, 用于基于所述中间模型文件以及所述第二模型文件确定推理算子包;
第二转换模块, 用于将所述推理算子包发送给包括所述第二处理器的第一设备, 以指
示所述第一设备基于所述推理算子包将所述训练网络模型转换为与所述第二处理器匹配
的目标网络模型。
13.一种网络模型的转换装置, 其特 征在于, 包括:
发送模块, 用于向包括第 一处理器的第二设备发送请求信 息, 其中, 所述请求信 息用于
请求推理算子包, 所述推理算子包为所述第一处理器基于中间模型文件以及与第一设备中
包括的第二处理器对应的模型转换第二模块的模型文件确定的, 所述中间模型文件为在第权 利 要 求 书 2/3 页
3
CN 114298284 A
3
专利 网络模型的转换方法、装置、系统、存储介质及电子装置
安全报告 >
其他 >
文档预览
中文文档
22 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共22页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-19 03:56:49上传分享