全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210176603.1 (22)申请日 2022.02.25 (71)申请人 浙江大学 地址 310058 浙江省杭州市西湖区余杭塘 路866号 (72)发明人 陈珂 祝斐然 骆歆远 寿黎但  江大伟 胡天磊 伍赛  (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 专利代理师 邱启旺 (51)Int.Cl. G06F 16/332(2019.01) G06F 16/36(2019.01) G06N 3/08(2006.01) (54)发明名称 一种面向弱监督场景的复杂知识图谱问答 方法 (57)摘要 本发明公开了一种面向弱监督场景的复杂 知识图谱问答方法, 本发明在实体链接子任务中 将多源词嵌入信息和知识 图谱中的语义及拓扑 信息融入到模 型中; 在关系预测子任务中引入知 识图谱三元组表示信息, 采用动态分析、 逐跳推 理的过程来搜寻答案; 同时, 在答案转移路径不 完备的弱监督场景, 本发明采用多路径联合推理 的方式, 筛选出合理的转移路径, 以路径为基本 单位, 共同作用于模型的训练中。 对比传统的知 识图谱问答方法, 本发明方法能够在弱监督场景 中有效的训练, 并有着显著的提升 。 权利要求书1页 说明书2页 附图2页 CN 114579721 A 2022.06.03 CN 114579721 A 1.一种面向弱监 督场景的复杂知识图谱问答方法, 该 方法包括以下步骤: (1)将复杂知识图谱问答分为实体链接和关系预测两个子任务, 实体链接子任务将用 户问句和知识图谱作为输入, 输出链接到知识图谱的实体; 关系 预测子任务将用户问句和 EL识别的核心实体作为输入, 输出与问句关联的答案实体; (2)在不完备标注语料上进行启发式的搜索, 得到起始实体到标注答案的转移路径, 作 为候选路径; (3)采用自适应路径选择算法筛 选出符合问句逻辑的转移路径; (4)对于所有筛选的转移路径, 计算其路径得分p(p∣q), 然后将每条路径作为基本单 位, 加权计算整体的模型损失, 共同作用于模型的训练, 最后通过优化器最小化整体损失 值。 2.根据权利要求1所述的一种新型的面向弱监督场景复杂知识图谱问答方法, 其特征 在于: 所述步骤(1)中, 通过实体链接和关系预测 两个子任务来解决原任务; 实体链接子任 务引入了知识图谱的语义及拓扑信息; 关系预测子任务引入了图谱三元组表征信息来增强 模型表现。 3.根据权利要求1所述的一种新型的面向弱监督场景复杂知识图谱问答方法, 其特征 在于: 所述步骤(1)中, 关系预测子任务采用状态转移、 逐跳推理的方法来回答复杂多跳问 题。 4.根据权利要求1所述的一种新型的面向弱监督场景复杂知识图谱问答方法, 其特征 在于: 所述步骤(2)中, 在不完备标注语料中采用DFS和剪枝算法搜索出图谱中所有可能的 转移路径。 5.根据权利要求1所述的一种新型的面向弱监督场景复杂知识图谱问答方法, 其特征 在于: 所述步骤(3)中, 所述自适应路径选择算法利用RP模型当前的参数对每条路径计算后 验概率, 筛选出概率最大的路径用于模型的训练。 6.根据权利要求1所述的一种新型的面向弱监督场景复杂知识图谱问答方法, 其特征 在于: 所述步骤(4)中, 将多条转移路径共同作用于同一个 问句的训练过程中, 并用 加权的 方式来平衡 每条路径的对训练过程的贡献。 7.根据权利要求1所述的一种新型的面向弱监督场景的知识图谱问答方法, 其特征在 于: 所述步骤(4)中, 基本的评价指标包括精准 率P值、 召回率R以及F1值: 精准率P=正确预测的答案实体数/预测答案实体总数*10 0%, 召回率R= 正确预测的答案实体数/数据集 答案实体总数*10 0%, 精确率和召回率的调和平均值F1=2PR/(P+R)。权 利 要 求 书 1/1 页 2 CN 114579721 A 2一种面向弱监督场景的 复杂知识图谱 问答方法 技术领域 [0001]本发明涉及涉自然语言处理技术领域。 尤其涉及 一种面向弱监督的复杂知识图谱 问答系统。 背景技术 [0002]知识图谱问答系统是搜索引擎和对话系统的重要组成部分, 其旨在从知识图谱中 查询出与用户问句关联的答案实体。 目前, 知识图谱问答系统主要包括实体链接和关系 预 测两个部 分, 主要在标注完备的强监督场景中进 行, 并以深度学习的方法为主。 但是深度学 习的方法需要 大量的标注数据, 而实际场景中大多只能获取到用户问句和最后答案实体的 问答对, 在知识图谱中搜寻答案的转移路径非常稀缺, 因此标注样本获取成本高是工业应 用上面临的一大挑战。 [0003]弱监督方法能够缓解标注数据不足的问题。 目前的主要方法有直接对答案和问句 进行端到端的建模或者利用强化学习的机制在搜索答案的过程中给予一定的激励。 但是前 者缺乏答案转移过程的解释性, 后者模型复杂并且存在收敛性问题, 仍然无法有效地解决 弱监督场景中的知识图谱问答任务。 发明内容 [0004]本发明的目的在于针对现有技术的不足, 提供一种面向弱监督场景的复杂知识图 谱问答方法, 本发明能够有效的利用知识图谱中丰富的语义和拓扑信息, 在标注不完备 的 场景中能够简洁而快速的训练出模型。 [0005]本发明的目的是通过以下技术方案来实现的: 一种面向弱监督场景的复杂知识图 谱问答方法, 该 方法包括以下步骤: [0006](1)将知识图谱问答分为实体链接(EL)和关系预测(RP)子任务: EL模块将用户问 句和知识图谱作为输入, 输出链接到知识图谱的实体; RP模块将用户问句和EL识别的核心 实体作为输入, 输出与问句关联的答案实体; [0007](2)在大量的不完备标注语料上进行启发式的搜索, 得到起始实体到标注答案 的 转移路径, 作为 候选路径; [0008](3)采用自适应路径选择的算法, 筛 选出符合问句逻辑的转移路径; [0009](4)对于所有筛选的转移路径, 计算其路径得分p(p∣ q), 然后将每条路径作为基本 单位, 加权计算整体的模型损失, 共同作用于模型的训练, 最后通过优化器最小化总损失 值。 [0010]本发明的有益效果是: 本发明在模型中引入了知识图谱侧的相关信息, 并采用 动 态分析、 逐跳转移的方案来回答多跳复杂问题, 大幅提高了模型准确 率的同时保证了运行 效率和可解释性。 本发 明利用多路径推理的算法, 有效的利用了多 条合理的转移路径, 在标 注不完备的弱监督场景中仍可以训练出一个良好的模型。 利用本发明提出的知识图谱问答 技术, 在弱监 督场景的设置下, 精准 率、 召回率及F1值都有大幅的提升 。说 明 书 1/2 页 3 CN 114579721 A 3

.PDF文档 专利 一种面向弱监督场景的复杂知识图谱问答方法

文档预览
中文文档 6 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共6页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种面向弱监督场景的复杂知识图谱问答方法 第 1 页 专利 一种面向弱监督场景的复杂知识图谱问答方法 第 2 页 专利 一种面向弱监督场景的复杂知识图谱问答方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 08:55:38上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。