(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210671982.1 (22)申请日 2022.06.15 (71)申请人 中科物栖 （北京） 科技有限责任公司 地址 100086 北京市海淀区大钟寺东路9号 1幢B座三层310室 (72)发明人 张磊　薛兴华　 (74)专利代理 机构 北京君有知识产权代理事务 所(普通合伙) 11630 专利代理师 焦丽雅 (51)Int.Cl. G06V 10/32(2022.01) G06V 10/44(2022.01) G06V 10/82(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种winograd卷积神经网络脆弱性评估方 法及装置 (57)摘要 本发明提供一种winograd卷积神经网络脆 弱性评估 方法及装置， 该方法设计一种操作级故 障注入平台， 并通过对基于winogra d卷积的神经 网络执行网络级， 层级， 操作级的脆弱性评估， 以 达到对研究对象的容错能力的更全面了解， 并且 Winograd卷积脆弱性评估相比传统卷积的脆弱 性评估计算 量更少， 耗费时间更短。 权利要求书2页 说明书5页 附图2页 CN 114821082 A 2022.07.29 CN 114821082 A 1.一种winograd卷积神经网络脆弱性评估方法， 其特 征在于： 所述方法包括如下步骤： 步骤1： 下载数据集， 将数据集中的图像逐一输入到基于winograd卷积的神经网络中， 在执行winograd卷积层中转换阶段和元素级乘法运算阶段时， 将其中的乘法和加法操作的 结果值提取出来作为 参数值； 步骤2： 设置一个比特错误率值和故障注入粒度， 将参数值、 比特错误率值、 故障注入粒 度输入到操作级故障注入平台的代码中， 输出 结果值； 步骤3： 比特错误率值从低到高取值， 依次作为模型输入， 在每个比特错误率下迭代执 行步骤2， 输出每 个比特错 误率下对应的精度值。 2.根据权利 要求1所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述基于 winograd卷积的神经网络包括但不限于基于winograd卷积的VGG， 基于winograd卷积的 ResNet。 3.根据权利 要求1所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述数据 集包括但不限于 CIFAR‑10， ImageNet数据集。 4.根据权利 要求1所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述比特 错误率值是指出现故障的比特个数占总的比特 数的百分比值。 5.根据权利 要求1所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述故障 注入粒度包括但不限于模型 粒度， 层粒度， 操作粒度。 6.根据权利 要求2所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述数据 集为ImageNet数据集， 将数据集中的图像逐一输入到基于winograd卷积的神经网络中， 在 执行winograd卷积层中转换阶段和元素级乘法运算阶段时， 将其中的乘法和加法操作的结 果值提取出来作为 参数值。 7.根据权利要求6所述 winograd卷积神经网络脆弱性评估方法， 其特 征在于： 步骤11.1： 选择公开的ImageNet图像数据库中的Training  images和Validation   images， 将其中的图像统一缩放到规定的尺寸2 24x224像素， 作为输入数据集； 步骤11.2：  基于wino grad卷积的神经网络计算首先依据网络中的权值 g以及转换矩阵 G， 计算针对权值矩阵g的中间矩阵 ； 将单次winograd卷积运算输入的特征图矩 阵d， 转换矩阵B， 计算针对输入特征图矩阵d的中间矩阵 ； 利用权值中间矩阵U和 输入特征图矩阵V计算矩阵 ， 对结果矩阵M执行矩阵转换 ， 得到针 对所述输入特征图d的卷积运算结果Fi； 对针对输入特征图的中间矩阵Fi进行累加， i表示 输入特征图的第i个通道， 以获取最终的输出 特征图； 步骤12： 设置一个比特错误率值和故障注入粒度和网络粒度， 将采集的乘法和加法操 作值， 设置的比特错误率值和故障注入粒度三种参数输入到操作级故障注入平台的代码 中， 获取精度值； 步骤13： 比特错误率值从低到高取值， 依次将每个比特错误率值作为模型输入， 在每个 比特错误率下迭代执 行步骤12， 输出每种比特错 误率下对应的精度值。 8.根据权利 要求1所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述步骤 2中的操作级故障注入平台的实现方法包括： 步骤21： 比特错误率值乘以总的操作个数计算出需要注入的比特的个数， 在计算操作权　利　要　求　书 1/2 页 2 CN 114821082 A 2值参数中随机 选择比特值； 步骤22： 将步骤s1选取的比特值中的1变成0或者0变成1， 使得 数据产生比特翻转 错误； 步骤23： 依据有故障之后的数据再 执行winograd卷积神经网络运 算。 9.根据权利 要求6所述winograd卷积神经网络脆弱性评估方法， 其特征在于： 所述步骤 23进一步包括如下内容： winograd卷积神经网络包括但不限于winograd卷积层， 归一化层， 池化层， 全连接层； 依据不同类型层的排序， 不同层的个数组成不同的winograd卷积神经网络； 其中所述 winograd卷积层首先将输入和权值进行winograd变换， 然后进行元素级的乘法运算， 最后 进行winograd反变换， 得到w inograd卷积层的结果。 10.一种winograd卷积神经网络脆弱性评估装置， 该评估装置用于权利 要求1‑9任一所 述的winograd卷积神经网络脆弱性评估方法， 其特征在于： 包括： 控制模块， 数据处理模块， 故障注入 模块， 测试模块， 其中： 控制模块， 与数据处理模块， 故障注入模块， 测试模块相连， 控制各个模块间的进程执 行和数据传输任务； 数据处理模块， 接收控制模块发来的控制指令， 采集被测网络的winograd卷积层的计 算操作值， 发送计算操作值到故障注入 模块； 故障注入模块， 接收来自数据处理模块的计算操作值， 进行随机比特翻转操作， 生成有 故障值后的数据传送到测试模块； 测试模块， 接收来自故障注入模块的带有故障值的数据， 作为模型的winograd卷积层 中的计算操作值， 重新执 行神经网络算法运 算， 生成精度结果。权　利　要　求　书 2/2 页 3 CN 114821082 A 3