(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211022781.5 (22)申请日 2022.08.25 (71)申请人 贝壳技术有限公司 地址 300280 天津市经济技 术开发区南港 工业区综合服务区办公楼C座一层112 室05单元 (72)发明人 邓勇　陈亮宇　马宝昌　 (74)专利代理 机构 北京德琦知识产权代理有限 公司 11018 专利代理师 郑红娟　宋志强 (51)Int.Cl. G06F 16/35(2019.01) G06K 9/62(2022.01) (54)发明名称 一种情绪识别模 型的训练方法、 装置及存储 介质 (57)摘要 本申请公开了一种情绪识别模型的训练方 法、 装置及存储介质， 包括： 利用第一文本训练样 本训练并生成第一文本情绪识别模 型； 利用第一 文本情绪识别模型对第二文本训练样本进行处 理， 根据获得的情绪预测概率值为第二文本训练 样本设置非人工标注的情绪标签； 利用第一文本 训练样本和第二文本训练样本训练并生成第二 文本情绪识别模型。 应用本申请实施例方案， 由 于先训练出第一文本情绪识别模 型， 采用第一文 本情绪识别模型对无标注的第二文本训练样本 进行处理， 为第二文本训练样 本设置非人工标注 的情绪标签， 因此， 训练模型需要的大量训练样 本可以不必全部采用人工标注的方式， 从而节约 人力资源并提高模型训练的效率。 权利要求书2页 说明书13页 附图5页 CN 115391531 A 2022.11.25 CN 115391531 A 1.一种情绪识别模型的训练方法， 其特 征在于， 该 方法包括： 利用第一文本训练样本训练并生成第 一文本情绪识别模型， 所述第 一文本训练样本有 预先确定的情绪标签， 所述第一文本情绪识别模型是用于识别文本所表达情绪的深度学习 模型； 利用所述第一文本情绪识别模型对第二文本训练样本进行处理， 获得情绪预测概率 值， 根据所述情绪预测概 率值为所述第二文本训练样本设置非人工标注的情绪标签； 将所述第一文本训练样本和所述第 二文本训练样本作为文本训练集， 利用所述文本训 练集中的样本训练并生成第二文本情绪识别模 型， 训练后的所述第二文本情绪识别模型作 为最终用于识别文本所表达情绪的深度学习模型。 2.根据权利要求1所述的方法， 其特征在于， 所述利用第 一文本训练样本训练生成第 一 文本情绪识别模型的步骤 包括： 将具有上 下文关联关系的语料进行融合， 生成无 标注的第一文本训练样本； 为所述第一文本训练样本人工标注所述情绪标签， 将有人工标注的情绪标签的所述第 一文本训练样本作为第三文本训练样本； 利用事先设置的提示模板对所述第 三文本训练样本进行重构， 使得重构后的第 三文本 训练样本包括所述提示模板， 所述提示模板对应所述人工标注的情绪标签， 所述提示模板 用于提示训练样本所表达的情绪； 利用所述重构后的第 三文本训练样本对第 一预训练模型进行微调处理， 获得所述第 一 文本情绪识别模型， 所述第一预训练模型为事先 经过预训练的处于底层状态的模型。 3.根据权利要求2所述的方法， 其特 征在于， 所述提示模板包括M个提示模板， 所述第一预训练模型包括M个第一预训练模型， 一个 提示模板对应一个预训练模型， M为大于或等于1的自然数； 所述利用事先设置的提示模板对所述第 三文本训练样本进行重构的步骤包括： 利用事 先设置的M个提示模板对所述第三文本训练样 本分别进 行重构， 得到M个重构后的第三文本 训练样本； 所述利用所述重构后的第 三文本训练样本对所述第 一预训练模型进行微调处理， 获得 所述第一文本情绪识别模型 的步骤包括： 对于所述M个重构后的第三文本训练样本和对应 的所述M个第一预训练模型， 利用每一个所述重构后的第三文本训练样本将对应的所述第 一预训练模型进行微调处 理， 获得对应的M个所述第一文本情绪识别模型。 4.根据权利要求3所述的方法， 其特征在于， 所述利用每一个所述重构后的第 三文本训 练样本将对应的所述第一预训练模型进行微调处 理的步骤 包括： 将所述重构后的第三文本训练样本进行 预处理， 生成第四文本训练样本； 根据所述第四文本训练样本进行 特征抽取， 确定样本 输入特征； 将所述样本 输入特征输入对应的所述第一预训练模型中， 获得语义特 征； 根据所述语义特征确定所述提示模板位置处 的特征向量值， 并根据已有的语言模型字 典从所述提示模板位置处的特征向量值中确定事先设置的N个情绪标签对应的N个情绪概 率值， N为大于1或等于1的自然数； 将所述N个情绪概率值和所述人工标注的情绪标签作为参数输入给交叉熵损 失函数， 确定所述第一预训练模型的权 重参数；权　利　要　求　书 1/2 页 2 CN 115391531 A 2将所述权 重参数返回给 所述第一预训练模型进行微调。 5.根据权利要求4所述的方法， 其特征在于， 所述利用所述第 一文本情绪识别模型对第 二文本训练样本进行处理， 获得情绪预测概率值， 根据所述情绪预测概率值为所述第二文 本训练样本设置非人工标注的情绪标签的步骤 包括： 利用事先设置的所述M个提示模板分别对第二文本训练样本进行重构， 得到M个重构后 的第二文本训练样本， 所述第二文本训练样本为无标注的样本， M个重构后的第二文本训练 样本分别包括对应的所述 提示模板； 将所述M个重构后的第二文本训练样本进行 预处理， 生成M个第五文本训练样本； 将所述M个第五文本训练样本分别输入所述对应的M个第 一文本情绪识别模型， 每一个 所述第一文本情绪识别模型 得到所述 N个情绪标签对应的N个情绪 概率值； 根据所述M个第 一文本情绪识别模型分别得到的所述N个情绪概率值， 从中确定一个作 为所述情绪预测概 率值； 将所述情绪预测概率值对应的情绪标签设置为所述第二文本训练样本的非人工标注 的情绪标签。 6.根据权利要求5所述的方法， 其特征在于， 所述根据所述M个第一文本情绪识别模型 分别得到的所述 N个情绪概率值， 从中确定一个作为所述情绪预测概 率值的步骤 包括： 将第一个情绪标签作为待处理情绪标签， 将所述待处理情绪标签对应的情绪概率值作 为待处理情绪概率值； 将所述M个第 一文本情绪识别模型的待处理情绪标签对应的待处理情绪概率值进行平 均或者加权平均， 将计算结果作为待处 理情绪标签对应的情绪 概率平均值； 将下一个情绪标签作为所述待处理情绪标签， 返回到所述将所述M个第一文本情绪识 别模型的待处理情绪标签对应的待处理情绪概率值进 行平均或者加权平均的步骤， 直到处 理完所有所述情绪标签； 将所述待处 理情绪概率平均值中最大的作为所述情绪预测概 率值。 7.根据权利要求1～6任一项所述的方法， 其特 征在于， 所述第一文本训练样本是对第一语音样本进行语音识别得到的文本； 和/或 所述第二文本训练样本是对第二语音样本进行语音识别得到的文本； 和/或 所述训练后的第二文本情绪识别模型识别文本所表达情绪作为对应 语音所表达情绪。 8.一种情绪识别方法， 其特 征在于， 该 方法包括： 获取需要识别的第三文本； 利用权利要求1所述的训练后的第二文本情绪识别模型对所述第三文本进行识别， 获 得针对所述第三文本的情绪识别结果。 9.一种计算机可读存储介质， 其上存储有计算机指令， 其特征在于， 所述指令被处理器 执行时可实现权利要求1～7任一项所述的情绪识别模型的训练方法。 10.一种计算机程序产品， 包括计算机指令， 所述计算机指令在被处理器执行时实施如 上述权利要求1～7任一项所述的文本情绪识别模型的训练方法。权　利　要　求　书 2/2 页 3 CN 115391531 A 3