(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210214422.3 (22)申请日 2022.03.07 (71)申请人 中国科学院自动化研究所 地址 100190 北京市海淀区中关村东路95 号 申请人 人民中科 （北京） 智能技 术有限公司 (72)发明人 刘雨帆　李兵　胡卫明　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 王庆龙 (51)Int.Cl. H04N 17/00(2006.01) H04N 19/44(2014.01) G06T 7/00(2017.01) G06V 10/764(2022.01)G06V 10/80(2022.01) G06V 10/82(2022.01) (54)发明名称 视频敏感内容检测方法及系统 (57)摘要 本发明提供一种视频敏感内容检测方法及 系统， 该方法包括： 对待检测视频执行解码方法 的部分步骤， 提取所述待检测视频的压缩域信 息； 根据所述压缩域信息判断所述待检测视频的 质量是否合格； 在所述待检测视频的质量不合格 的情况下， 确定所述待检测视频中不存在敏感内 容； 在所述待检测视频的质量合格的情况下， 根 据所述压缩域信息对所述待检测视频进行敏感 内容检测， 确定所述待检测视频中是否存在敏 感 内容。 本发明降低了敏感内容检测的资源消耗， 提高检测效率和检测准确率。 权利要求书2页 说明书11页 附图3页 CN 114666571 A 2022.06.24 CN 114666571 A 1.一种视频 敏感内容检测方法， 其特 征在于， 包括： 对待检测视频 执行解码方法的部分步骤， 提取 所述待检测视频的压缩域信息； 根据所述压缩域信息判断所述待检测视频的质量是否合格； 在所述待检测视频的质量 不合格的情况 下， 确定所述待检测视频中不存在敏感内容； 在所述待检测视频的质量合格的情况下， 根据所述压缩域信 息对所述待检测视频进行 敏感内容检测， 确定所述待检测视频中是否存在敏感内容。 2.根据权利要求1所述的视频敏感内容检测方法， 其特征在于， 所述根据 所述压缩域信 息判断所述待检测视频的质量是否合格， 包括： 将所述压缩域信息分别输入视频质量评估 模型的不同分支； 根据所有分支的输出， 确定所述待检测视频的质量是否合格； 其中， 所述视频质量评估模型以样本视频的压缩域信息为样本， 以所述样本视频的质 量实际是否合格为标签进行训练获取。 3.根据权利要求2所述的视频敏感内容检测方法， 其特征在于， 所述将所述压缩域信 息 分别输入视频质量评估 模型的不同分支， 之前还 包括： 将所述样本视频的压缩域信 息分别输入所述视频质量评估模型的不同分支， 对每个分 支的输出进行二分类， 确定所述样本 视频的质量是否合格； 将所述样本视频对于每个分支的二分类结果和所述样本视频的标签进行对比， 根据对 比结果对每 个分支进行 预训练； 将所述样本视频的压缩域信 息分别输入预训练后的不同分支， 根据所有分支的输出进 行融合， 对融合结果进行二分类， 确定所述待检测视频的质量是否合格； 将所述融合结果的二分类结果和所述样本视频的标签进行对比， 根据对比结果对所述 视频质量评估 模型进行训练。 4.根据权利要求1 ‑3任一所述的视频敏感内容检测方法， 其特征在于， 所述根据 所述压 缩域信息对所述待检测视频进行敏感内容检测， 确定所述待检测视频中是否存在敏感内 容， 包括： 将所述待检测视频的压缩域信息分别输入敏感内容检测模型的不同分支； 根据所有分支的输出， 确定所述待检测视频中是否存在敏感内容； 其中， 所述敏感内容检测模型以样本视频的压缩域信息为样本， 以所述样本视频中是 否存在敏感内容 为标签进行训练获取。 5.根据权利要求4所述的视频敏感内容检测方法， 其特征在于， 所述将所述待检测视频 的压缩域信息分别输入敏感内容检测模型的不同分支， 之前还 包括： 将所述样本视频的压缩域信 息分别输入所述敏感内容检测模型的不同分支， 对每个分 支的输出进行二分类， 确定所述样本 视频中是否存在敏感内容； 将所述样本视频对于每个分支的二分类结果和所述样本视频的标签进行对比， 根据对 比结果对每 个分支进行 预训练； 使用两个超参数对预训练后的敏感内容检测模型进行训练； 其中， 一个所述超参数用 于控制所述敏感 内容检测模型的检测速度， 另一个所述超参数用于控制所述敏感 内容检测 模型的检测精度。 6.根据权利要求5所述的视频敏感内容检测方法， 其特征在于， 使用两个超参数对预训权　利　要　求　书 1/2 页 2 CN 114666571 A 2练后的敏感内容检测模型进行训练的损失函数为： 其中， 为所述损失函数的值， 和 为所述两个超参数， 为影响所述 敏感内容检测模型的检测速度的损失函数， 为影响所述敏感内容检测模型的检测 精度 的损失函数， 为所述敏感内容检测模型的权重， 根据预训练后所述分支的输出或 预训练后所述分支的中间层的输出确定， 根据使用两个超参数对 敏感内容检测模型 训练的过程中分支的输出或分支的中间层的输出确定 。 7.一种视频 敏感内容检测系统， 其特 征在于， 包括： 提取模块， 用于对待检测视频执行解码方法的部分步骤， 提取所述待检测视频的压缩 域信息； 判断模块， 用于根据所述压缩域信息判断所述待检测视频的质量是否合格； 检测模块， 用于在所述待检测视频的质量不合格的情况下， 确定所述待检测视频中不 存在敏感内容； 在所述待检测视频的质量合格的情况下， 根据所述压缩域信息对所述待检 测视频进行 敏感内容检测， 确定所述待检测视频中是否存在敏感内容。 8.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求1至6任一项所 述视频敏感内容检测方法的步骤。 9.一种非暂态计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机 程序被处 理器执行时实现如权利要求1至 6任一项所述视频 敏感内容检测方法的步骤。 10.一种计算机程序产品， 包括计算机程序， 其特征在于， 所述计算机程序被处理器执 行时实现如权利要求1至 6任一项所述视频 敏感内容检测方法的步骤。权　利　要　求　书 2/2 页 3 CN 114666571 A 3