(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111246430.8 (22)申请日 2021.10.26 (71)申请人 四川大学 地址 610064 四川省成 都市武侯区一环路 南一段24号 (72)发明人 吕建成　郎九霖　汤臣薇　高毅　 胡宴清　贺喆南　 (74)专利代理 机构 北京正华智诚专利代理事务 所(普通合伙) 11870 代理人 何凡 (51)Int.Cl. G06T 7/00(2017.01) G06V 10/44(2022.01) G06V 10/764(2022.01) G06V 10/82(2022.01)G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 20/00(2019.01) (54)发明名称 一种基于多尺度注意力引导和知识蒸馏的 表面缺陷检测方法 (57)摘要 本发明公开了一种基于多尺度注意力引导 和知识蒸馏的表面缺陷检测方法， 包括以下步 骤： S1： 采集待检测工业设备的表面缺陷图片， 构 建并训练教师网络模型； S2： 将表面缺陷图片输 入至学生网络模型， 并对学生网络模型进行训 练； S3： 对采集的表面缺陷图片 进行检测， 完成对 工业设备的表 面缺陷检测。 将知识蒸馏应用于表 面缺陷检测领域， 提出了一种新的工业缺陷检测 模型训练框架， 在平衡精度和速度的情况下， 极 大的减少了深度神经网络在计算和 内存上的消 耗， 训练出适用于工业部署的缺陷检测模型。 本 发明提出的多尺度注意力机制引导的知识蒸馏 方法， 使学生网络模仿教师网络关注的前景注意 力图， 提升特 征层之间知识蒸馏的效率。 权利要求书3页 说明书10页 附图4页 CN 113947590 A 2022.01.18 CN 113947590 A 1.一种基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其特征在于， 包括以 下步骤： S1： 采集待检测工业设备的表面 缺陷图片， 构建并训练教师网络模型； S2： 基于训练好的教师网络模型， 将表面缺陷图片输入至学生网络模型， 并对学生网络 模型进行训练； S3： 利用训练好的学生网络模型对采集的表面缺陷图片进行检测， 完成对工业设备的 表面缺陷检测。 2.根据权利要求1所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述 步骤S1包括以下子步骤： S11： 采集待检测工业设备的表面缺陷图片， 对表面缺陷图片依次进行预处理和下采 样， 并将下采样后的表面缺陷图片作为第一分辨率图片， 将采集的原表面缺陷图片作为第 二分辨率图片； S12： 将第一分辨率图片和第二分辨率图片输入至教师网络模型中， 分别得到第一分辨 率特征金字塔和 第二分辨率特征金字塔， 并将第一分辨率特征金字塔和第二分辨率特征金 字塔中具有相同大小的特 征层进行融合， 得到第三分辨 率特征金字塔； S13： 将第一分辨率特征金字塔、 第二分辨率特征金字塔和第 三分辨率特征金字塔输入 至教师网络模型的头 部， 进行训练。 3.根据权利要求2所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述步骤S11中， 对表面缺陷图片进行预处理的具体方法为： 对表面缺陷图片依 次进行翻转、 仿射变换和翻转； 对表 面缺陷图片进 行下采样的具体方法为： 将预 处理后的表 面缺陷图片进行0.5倍的缩放。 4.根据权利要求2所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述 步骤S2包括以下子步骤： S21： 将第一分辨率图片输入至学生网络模型中， 并对第 一分辨率特征金字塔进行特征 适应性处 理， 得到第四分辨 率特征金字塔； S22： 对第三分辨率特征金字塔和第四分辨率特征金字塔进行知识蒸馏操作， 以使学生 网络模型模仿教师网络模型； S23： 在完成训练的教师网络模型和完成模仿的学生网络模型的输出层依次进行分类 操作、 回归操作和中心距离损失操作， 并固定教师网络模型的参数， 利用教师网络模型对学 生网络模型进行训练。 5.根据权利要求4所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述步骤S21中， 对第一分辨率特征金字塔进行特征适应性处理的具体方法为： 对第一分辨率特征金字塔中各个特征层的所有通道依 次进行均值运算和 n次幂运算， 并进 行上采样， 得到第四分辨 率特征金字塔。 6.根据权利要求4所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述步骤S22中， 进行知识蒸馏操作的具体方法为： 分别对第三分辨率特征金字 塔和第四分辨率特征金字塔进 行通道注意力操作和空间注意力操作， 得到各自对应的通道 注意力图和空间注意力图； 利用最小化平方误差损失函数使 学生网络模型模仿教师网络模 型的通道注意力图和空间注意力图； 将第三分辨率特征金字塔和 第四分辨率特征金字塔各权　利　要　求　书 1/3 页 2 CN 113947590 A 2自对应的通道注意力图和空间注意力图分别与其特征层相乘， 并利用特征层知识蒸馏损失 函数使学生网络模型模仿教师网络模型的特 征层。 7.根据权利要求6所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述 步骤S22中， 第三分辨 率特征金字塔对应的通道 注意力图QT的计算公式为： 其中， T表示教师网络模型， H表示特征图的宽， W表示特征图的高， FT表示第三分辨率特 征金字塔的某一层特 征图； 第三分辨 率特征金字塔对应的空间注意力图MT的计算公式为： 其中， C表示特 征图的通道个数， n表示幂运 算次数； 第四分辨 率特征金字塔对应的通道 注意力图QS的计算公式为： 其中， S表示学生网络模型， Fs表示第四分辨 率特征金字塔的某一层特 征图； 第四分辨 率特征金字塔对应的空间注意力图MS的计算公式为： 特征层知识蒸馏损失函数L ossF的表达式为： LossF＝Lossc+Lossm+Lossg 其中， Lossc表示通道注意力知识蒸馏损失函数， Lossm表示空间注意力知识蒸馏函数， Lossg表示注意力引导的特 征图知识蒸馏损失函数。 8.根据权利要求4所述的基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法， 其 特征在于， 所述 步骤S23中， 进行分类操作的计算公式为： 其中， 表示学生网络模型的分类层损失函数， μ表示学生网络模型输出与标签的损 失函数的权重， Lhard(·)表示学生网络模型输出与标签的损失函 数， 表示学生网络模型 分类层的输出， ycls表示分类 标签， Lsoft(·)表示类加权交叉熵损失函数， 表示教师网络权　利　要　求　书 2/3 页 3 CN 113947590 A 3