(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210061311.3 (22)申请日 2022.01.19 (71)申请人 厦门快商通科技股份有限公司 地址 361000 福建省厦门市软件园三期诚 毅北大街63号1301单元 (72)发明人 黄友福　肖龙源　李稀敏　李威　 (74)专利代理 机构 厦门市首创君 合专利事务所 有限公司 3 5204 专利代理师 连耀忠 (51)Int.Cl. G06F 16/35(2019.01) G06F 16/36(2019.01) G06F 16/33(2019.01) G06F 16/332(2019.01) G06F 40/284(2020.01)G06F 40/295(2020.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种结合上下文信息的对话系统主题识别 方法及装置 (57)摘要 本发明公开了一种结合上下文信息的对话 系统主题识别方法及装置， 通过获取主题数据 集， 根据主题数据集中多个句子的主题与句子中 每个类别的实体 之间的关系构建槽位库， 槽位库 中每行槽位包括不同的主题与其对应的不同类 别的每个实体； 将待识别对话的当前句子输入经 训练的单句主题识别模型， 预测出第一主题以及 对应的预测概率值； 识别出当前句子及其之前的 所有句子的所有实体， 并根据所有实体及其类别 建立对话槽位表； 响应于对话槽位表在槽位库中 匹配成功的次数， 确定当前句子的第二主题及其 对应的匹配概率值； 响应于预测概率值与匹配概 率值中数值较大的其中一个所对应主题为第一 主题或第二主题， 确定为当前句子的主题， 并且 能够避免上 下文信息 丢失。 权利要求书2页 说明书10页 附图4页 CN 114791949 A 2022.07.26 CN 114791949 A 1.一种结合上 下文信息的对话系统主题 识别方法， 其特 征在于， 包括以下步骤： S1， 获取主题数据集， 根据所述主题数据集中每个句子的主题与句子中每个类别的实 体之间的关系构建具有 多行槽位的槽位库； S2， 将对话系统中的待识别对话的当前句子进行预处理后输入经训练的单句主题识别 模型， 预测出 所述当前句子的第一主题及其对应的预测概 率值； S3， 识别出所述当前句子及其之前的所有句子的所有实体， 并根据所述当前句子的所 有实体及其类别建立对话槽位表， 所述槽位库中的实体类别包括所述对话槽位表中的实体 类别； S4， 响应于所述对话槽位表在所述槽位库中匹配成功的次数， 确定所述当前句子的第 二主题及其对应的匹配概 率值； S5， 响应于所述预测概率值与所述匹配概率值中数值较大的其中一个所对应主题为第 一主题或第二主题， 确定为所述当前句子的主题。 2.根据权利要求1所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 步骤S1中根据所述主题数据集中每个句 子的主题与句 子中每个类别的实体之间的关系构 建具有多行槽位的槽位库， 具体包括： S11， 采用命名实体识别对所述主题数据集中的每 个句子的实体进行识别； S12， 根据每 个句子的主题与识别出的每 个类别的实体得到 槽位库中的每行槽位； S13， 重复步骤S1 1‑S12， 得到所述主题数据集中多个句子对应的槽位库。 3.根据权利要求1所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 对话系统中的每 个句子的预处 理过程具体包括： 采用结巴分词对每 个句子进行分词， 得到每 个句子中的至少一个单词； 采用Word2vec对每 个单词进行处 理， 得到词向量嵌入表示； 将每个句子的所述词向量嵌入表示进行拼接， 得到合并矩阵。 4.根据权利要求3所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 单句主题识别模型为基于机器学习的文本 分类模型， 所述单句主题识别模 型至少包括全连 接层和softmax层。 5.根据权利要求4所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 单句主题 识别模型的训练过程包括： 将所述主题数据集中的每 个句子进行 预处理， 得到合并矩阵； 采用独热编码 将所述主题数据集中的主题编码为1*n维度的第一向量； 将所述合并矩阵输入 全连接层和softmax层， 得到第二向量； 计算所述第 二向量与 所述第一向量的交叉熵损失函数， 逐步迭代优化所述单句主题识 别模型的参数。 6.根据权利要求1所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 步骤S4还 包括： S41， 判断所述对话槽位表是否为空， 若是， 则直接将第一主题作为所述当前句子的主 题， 否则将所述对话槽位表中不同类别的实体之间构成实体对， 并将所述对话槽位表的实 体对在所述槽位库中进行匹配； S42， 若所述对话槽位表中的其中一个实体对与所述槽位库中其中一行槽位的实体相权　利　要　求　书 1/2 页 2 CN 114791949 A 2同， 则匹配成功， 并记录下 所述槽位库中其中一行槽位的实体所对应的第三主题； S43， 重复步骤S42将所述对话槽位表与所述槽位库进行匹配， 并获得所述对话槽位表 在所述槽位库中匹配成功的总次数以及至少一个所述第三主题及其对应的匹配成功的次 数。 7.根据权利要求6所述的结合上下文信 息的对话系统主题识别方法， 其特征在于， 所述 步骤S4具体包括： 将至少一个所述第三主题所对应的匹配成功 的次数中匹配次数最高的所述第三主题 作为所述第二主题； 将至少一个所述第三主题所对应的匹配成功 的次数中匹配次数最高的数值与所述对 话槽位表在所述槽位库中匹配成功的总次数相除得到所述匹配概 率值。 8.根据权利要求1 ‑7中任一项所述的结合上下文信息的对话系统主题识别方法， 其特 征在于， 还包括： 对所述槽位库中的槽位进行增加、 删除或修改， 并重复步骤S2 ‑S5调整所述 当前句子的主题的识别效果。 9.一种结合上 下文信息的对话系统主题 识别装置， 其特 征在于， 包括： 槽位库构建模块， 被配置为获取主题数据集， 根据所述主题数据集中每个句子的主题 与句子中每 个类别的实体之间的关系构建具有 多行槽位的槽位库； 主题预测模块， 被配置为将对话系统中的待识别对话的当前句子进行预处理后输入经 训练的单句主题 识别模型， 预测出 所述当前句子的第一主题及其对应的预测概 率值； 对话槽位表构建模块， 被配置为识别出所述当前句子及其之前的所有句子的所有实 体， 并根据所述当前句 子的所有实体及其类别建立对话槽位表， 所述槽位库中的实体类别 包括所述对话槽位表中的实体 类别； 匹配模块， 被配置为响应于所述对话槽位表在所述槽位库中匹配成功 的次数， 确定所 述当前句子的第二主题及其对应的匹配概 率值； 主题确定模块， 被配置为响应于所述预测概率值与所述匹配概率值中数值较大的其中 一个所对应主题为第一主题或第二主题， 确定为所述当前句子的主题。 10.一种电子设备， 包括： 一个或多个处 理器； 存储装置， 用于存 储一个或多个程序， 当所述一个或多个程序被所述一个或多个处理器执行， 使得所述一个或多个处理器实 现如权利要求1 ‑8中任一所述的方法。 11.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该程序被处理器 执行时实现如权利要求1 ‑8中任一所述的方法。权　利　要　求　书 2/2 页 3 CN 114791949 A 3