(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210390059.0 (22)申请日 2022.04.14 (71)申请人 齐鲁工业大学 地址 250353 山东省济南市长清区大 学路 3501号 (72)发明人 尉秀梅　马浩翔　姜雪松　柴慧慧　 陈珺　陈佃迎　 (74)专利代理 机构 济南圣达知识产权代理有限 公司 372 21 专利代理师 于凤洋 (51)Int.Cl. G06F 16/36(2019.01) G06N 5/02(2006.01) G06K 9/62(2022.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 基于多尺度分散动态路由的知识图谱补全 方法及系统 (57)摘要 本发明提出了一种基于多尺度分散动态路 由的知识图谱补全方法及系统， 对获取的待补全 三元组使用多头注意力机制与记忆矩 阵循环交 互， 编码实体和关系之间的潜在依赖关系， 生成 三元组编码向量； 将三元组编码向量， 输入到训 练好的胶囊网络中， 提取全局特征， 并为全局特 征分配不同的耦合系数， 根据全局特征预测缺失 的三元组， 完成知识图谱的补全； 本发明在知识 图谱预测时对实体之间潜在的依赖关系进行有 效建模， 尽可能地减少预测时动态路由造成的偏 差， 捕获不同抽象层次的特征， 从而提高知识图 谱补全预测精度和三元组分类的效果。 权利要求书2页 说明书7页 附图1页 CN 114741532 A 2022.07.12 CN 114741532 A 1.基于多尺度分散动态路由 的知识图谱补全方法， 其特 征在于， 对获取的待补全三元组使用多头注意力 机制与记忆矩阵循环 交互， 编码 实体和关系之 间的潜在依赖关系， 生成三元组编码向量； 将三元组编码向量， 输入到训练好的胶囊网络中， 提取全局特征， 并为全局特征分配不 同的耦合系数， 根据全局特 征预测缺失的三元组， 完成知识图谱的补全。 2.如权利要求1所述的基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 所 述三元组由头实体、 关系和 尾实体三部分组成， 循环交互前， 将三元组转换为头实体、 关系 和尾实体向量， 并嵌入位置信息， 得到 头实体、 关系和尾实体的三元组向量。 3.如权利要求1所述的基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 所 述多头注意力机制与记 忆矩阵循环交 互， 具体方法是： 构建记忆矩阵， 每一行都是一个记 忆槽位， 初始值 为三元组向量形成的矩阵； 循环更新记忆矩阵， 查询矩阵和键矩阵点积运算得到三元组向量和记忆矩阵的标量 值， 输入Softmax函数中， 计算得到多头注意力权重值， 用多头注意力权重值残差连接三元 组向量和记 忆矩阵得到新的记 忆矩阵， 循环更新记 忆矩阵， 直至更新完记 忆矩阵的每一行。 4.如权利要求1所述的基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 所 述胶囊网络执 行的具体步骤为： 将关系记 忆模块输出的三原则编码向量 拼接成卷积层的输入矩阵； 使用三种不同窗口大小的卷积核对输入矩阵的每一行执行卷积运算生成特征图， 得到 卷积层输出的特 征图列表； 将特征图列表输入到胶囊层， 为输出的特 征分配不同的耦合系数， 预测缺失的三元组。 5.如权利要求4所述的基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 所 述胶囊层预测缺失的三元组的具体方法： 将卷积层生成的多个特征图按照特征维度重组构建胶囊， 捕 获更多实体之间不同位置 的特征向量， 并将特 征向量与权 重矩阵相乘提取感兴趣的特 征； 将提取的特征， 输入到动态分散路由算法中， 计算三元组的得分， 通过得分排序， 得到 最终的缺失预测结果。 6.如权利要求5所述基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 动态 分散路由算法的计算过程 为： 提取的特征与耦合系数相乘， 输入到非线性压缩函数中进行放大， 计算三元组输出向 量， 并将三元组输出向量加权求和得到三元组的得分。 7.如权利要求6所述基于多尺度分散动态路由的知识图谱补全方法， 其特征在于， 所述 耦合系数， 是主胶囊和最 终胶囊之间的相关强度， 为真实特征分配更大的耦合系数， 为错误 的特征分配相对较小的耦合系数， 通过Sigmo id函数计算得到 。 8.基于多尺度分散动态路由的知识图谱补全系统， 其特征在于： 包括关系记忆模块和 胶囊网络模块； 所述关系记忆模块， 用于对获取的待补全三元组使用多头注意力 机制与记忆矩阵循环 交互， 编码实体和关系之间的潜在依赖关系， 生成三元组编码向量； 所述胶囊 网络模块， 用于将三元组编码向量， 输入到训练好的胶囊网络中， 提取全局特 征， 并为全局特征分配不同的耦合系数， 根据全局特征预测缺失的三元组， 完成知识图谱的权　利　要　求　书 1/2 页 2 CN 114741532 A 2补全。 9.一种计算机可读存储介质， 其上存储有程序， 其特征在于， 该程序被处理器执行时实 现如权利要求1 ‑7任一项所述的基于多尺度分散动态路由 的知识图谱补全方法中的步骤。 10.一种电子设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的程 序， 其特征在于， 所述处理器执行所述程序时实现如权利要求 1‑7任一项所述的基于多尺度 分散动态路由 的知识图谱补全方法中的步骤。权　利　要　求　书 2/2 页 3 CN 114741532 A 3