(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210873747.2 (22)申请日 2022.07.24 (71)申请人 河南垂天科技有限公司 地址 458000 河南省鹤壁市淇滨区湘江东 路国立光电2#科研楼3 06室 (72)发明人 倪水平　马新良　朱明甫　邓立恒　 武志强　朱智丹　李炳伸　 (74)专利代理 机构 北京信宇创知识产权代理事 务所(普通 合伙) 16121 专利代理师 程丹 (51)Int.Cl. G06V 10/44(2022.01) G06V 10/764(2022.01) G06V 10/82(2022.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 轻量化的残差神经网络模型 (57)摘要 本发明提供了一种轻量化的残差神经网络 模型， 包括： 输入模块， 用于对输入特征图进行预 处理以得到中间特征图； 特征提取模块， 与输入 模块连接， 用于将中间特征图转换为特征提取 图； 其中， 特征提取模块包括依次连接的多个残 差块， 通过设置多个残差块中的每一个残差块的 主分支上的各卷积层及对应的卷积方式和/或多 个残差块的每一个残差块的捷径分支上的卷积 层及卷积方式， 以使中间特征图在转换为特征提 取图时降低卷积过程中的参数量； 及输出模块， 与特征提取模块连接， 用于对特征提取图进行处 理以得到输出特征图。 本申请的轻量化的残差神 经网络模型既能降低参数总量， 经过自蒸馏训练 后又能保持与原残差神经网络相近的性能， 可应 用融合、 重建等领域。 权利要求书2页 说明书12页 附图7页 CN 115131579 A 2022.09.30 CN 115131579 A 1.一种轻量化的残差神经网络模型， 其特征在于， 所述轻量化的残差神经网络模型包 括： 输入模块， 用于对输入特 征图进行 预处理以得到中间特 征图； 特征提取模块， 与所述输入模块连接， 用于将所述中间特征图转换为特征提取图； 其 中， 所述特征提取模块包括依 次连接的多个残差块， 通过设置所述多个残差块中的每一个 残差块的主分支上的各卷积层及对应的卷积方式和/或所述多个残差块的每一个残差块的 捷径分支上的卷积层及卷积方式， 以使所述中间特征图在转换为所述特征提取图时降低卷 积过程中的参数量； 及 输出模块， 与所述特征提取模块连接， 用于对所述特征提取图进行降维处理以得到输 出特征图。 2.根据权利要求1所述的轻量化的残差神经网络模型， 其特征在于， 所述多个残差块中 的第一残差块包括位于所述主分支上的第一卷积层及第二卷积层， 和位于所述捷径分支上 的第三卷积层； 所述主分支的输入与所述捷径分支的输入相同； 所述主分支的输出与所述 捷径分支的输出 经求和后再进行输出。 3.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 所述第 一卷积层对 所述主分支的输入进行逐点卷积； 所述第二卷积层对所述第一卷积层的输出进行分组卷 积； 所述第三卷积层对所述捷径分支的输入进行逐点卷积； 所述第二卷积层的输出与所述 第三卷积层的输出 经求和后再输出。 4.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 所述第 一卷积层对 所述主分支的输入进 行分组逐点卷积； 所述第二卷积层 对所述第一卷积层的输出进行分组 卷积； 所述第三卷积层对所述捷径分支的输入进行分组逐点卷积； 所述第二卷积层的输出 与所述第三卷积层的输出 经求和后再输出。 5.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 所述第 一卷积层对 所述主分支的输入进行分组卷积； 所述第二卷积层对所述第一卷积层的输出进行逐点卷 积； 所述第三卷积层对所述捷径分支的输入进行逐点卷积； 所述第二卷积层的输出与所述 第三卷积层的输出 经求和后再输出。 6.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 所述第 一卷积层对 所述主分支的输入进 行分组卷积； 所述第二卷积层 对所述第一卷积层的输出进行分组逐点 卷积； 所述第三卷积层对所述捷径分支的输入进行分组逐点卷积； 所述第二卷积层的输出 与所述第三卷积层的输出 经求和后再输出。 7.根据权利要求1所述的轻量化的残差神经网络模型， 其特征在于， 一个残差块的卷积 层包括第一卷积层、 第二卷积层及第三卷积层； 所述第一卷积层对所述主分支上 的输入进 行深度卷积； 所述第二卷积层对所述第一卷积层的输出进行逐点卷积； 所述第三卷积层对 所述捷径分支的输入进行逐点卷积； 所述第二卷积层的输出与所述第三卷积层的输出经求 和后再输出。 8.根据权利要求1所述的轻量化的残差神经网络模型， 其特征在于， 一个残差块的卷积 层包括第一卷积层、 第二卷积层、 第三卷积层和 第四卷积层； 所述第一卷积层对 所述主分支 上的输入进行逐点卷积； 所述第二卷积层对所述第一卷积层的输出进行深度卷积； 所述第 三卷积层对所述第二卷积层的输出进 行逐点卷积； 所述第四卷积层 对所述捷径分支的输入权　利　要　求　书 1/2 页 2 CN 115131579 A 2进行逐点卷积； 所述第三卷积层的输出与所述第四卷积层的输出 经求和后再输出。 9.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 当一个残差块的输 入与输出的维度相同时， 所述残差块的输入与输出的关系为： XL+1＝f(CV(XL,Wa)+XL) 其中， XL表示所述残 差块的输入， XL+1表示所述残差块的输 出， CV表示所述残 差块中所述 主分支上的全部卷积层的计算函数， Wa表示所述残差块中所述主分支上的全部卷积层的参 数， f表示非线性激活函数ReLU。 10.根据权利要求2所述的轻量化的残差神经网络模型， 其特征在于， 当一个残差块的 输入与输出的维度不相同时， 所述残差块的输入与输出的关系为： XL+1＝f(CV(XL,Wa)+CVup(XL,Wb)) 其中， XL表示所述残 差块的输入， XL+1表示所述残差块的输 出， CV表示所述残 差块中所述 主分支上的全部卷积层的计算函数， Wa表示所述残差块中所述主分支上的全部卷积层的参 数， Wb表示所述残差块中所述捷径分支上的全部卷积层的参数， f表示非线性激活函数 ReLU， CVup表示所述残差块中所述捷径分支上的全部卷积层的计算 函数。权　利　要　求　书 2/2 页 3 CN 115131579 A 3