(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210563427.7 (22)申请日 2022.05.20 (71)申请人 郑州轻工业大 学 地址 450000 河南省郑州市高新 技术产业 开发区科 学大道136号 (72)发明人 朱颢东　李红婵　韩朝阳　路延通　 李展鹏　王建文　朱状　马钰　 马紫帅　 (74)专利代理 机构 郑州晟佳专利代理事务所 (普通合伙) 4120 5 专利代理师 张心龙 (51)Int.Cl. G06F 16/36(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种知识图谱嵌入表示方法 (57)摘要 本发明公开了一种知识图谱嵌入表 示方法， 包括获得路径信息， 所述路径信息结合注意力机 制进行嵌入化处理； 引入卷积神经网络， 所述引 入卷积神经网络是获取实体与关系中的特征； 整 体架构Pattention模型， 所述Pattention模型结 合CNN与BiLSTM进行路径信息的嵌入化； 模型中 引入注意力机制， 所述模型中引入注 意力机制对 路径信息作出的贡献度进行区分， 最终为候选三 元组进行评分。 本发明的有益效果是： 本发明提 出了一种知 识图谱嵌入表示方法Pattention， 在 对关系路径进行嵌入时， 引入注意力机制， 从而 注意到路径上信息的差异， 实现对实体更好的嵌 入表示， 同时在结合卷积神经网络和双向长短期 记忆网络， 加入注意力机制， 实现了对知识图谱 内部路径信息的嵌入表示。 权利要求书2页 说明书6页 附图2页 CN 114925215 A 2022.08.19 CN 114925215 A 1.一种知识图谱嵌入表示方法， 其特 征在于， 包括： 第一步： 获得路径信息， 所述路径信息结合注意力机制进行嵌入化处 理； 第二步： 引入卷积神经网络， 所述引入卷积神经网络是获取实体与关系中的特 征； 第三步： 整体架构Pattention模型， 所述Pattention模型结合CNN与B iLSTM进行路径信 息的嵌入化； 第四步： 模型中引入注意力机制， 所述模型中引入注意力机制对路径信息作出的贡献 度进行区分， 最终为 候选三元组进行评分。 2.根据权利要求1所述的一种知识图谱嵌入表示方法， 其特征在于： 所述Pattention模 型包括； Paths层， 所述Paths层是通过PRA算法获取到知识图谱当中目标实体的路径信息； Embedding  Layer With Attention层， 所述Embedding  Layer With Attention层结合 注意力机制将目标实体的路径进行嵌入， 并融合到目标实体的嵌入当中； CNN层和BiLSTM层， 所述CN N层和BiLSTM层构成对路径信息的嵌入； Attention  Mechanism层， 所述Attention  Mechanism层衡量路径对路径组合的重要 性； Output层， 所述Output层对候选三元组进行概 率分数计算。 3.根据权利要求1所述的一种知识图谱嵌入表示方法， 其特征在于： 所述Pattention模 型操作方法包括以下几个过程； 过程一： 首先在待补全的知识图谱中运用PRA算法获取到路径信息； 过程二： 然后将包含目标实体以及其所在路径上的其他邻域实体进行嵌入表示， 且在 嵌入的过程中， 引入注意力机制； 过程三： 接着传入到卷积神经网络 CNN以及双向长短期记 忆网络Bi LSTM进行路径编码； 过程四： 之后再采用注意力函数将得到的路径编码与关系进行匹配度计算， 且得到相 关性达标的挑出； 过程五： 最终在输出层对候选三元组进行概 率分数计算操作。 4.根据权利要求1所述的一种知识图谱嵌入表示方法， 其特征在于： 所述模型中引入注 意力机制包括以下几个操作； 操作一， 首 先生成候选的三元组， 其中头实体或尾实体 被随机得到的实体替换； 操作二， 然后构建训练数据， 训练数据集由合格三元组(h,r,t)∈G、 候选三元组(ej,r, t)和 构建而成。 5.根据权利要求1所述的一种知识图谱嵌入表示方法， 其特征在于： 所述关系路径信 息 通过PRA方法来进行获取， 且在PRA 中， 将知识图谱编码为图， 该图由异构的边构建而成， 且 在边上包含由该边所连接的两个实体之间存在的关系类型， 给定一对头实体和 尾实体(h, t)， 在知识图谱中查找路径， 过程中将从h开始到t处结束的路径信息进 行记录， 最 终得到了 由h和t之间的一系列关系组成的多条关系路径{r1,2,r2,3,...,rl,n}。 6.根据权利要求5所述的一种知识图谱嵌入表示方法， 其特征在于： 所述多条关系路径 的处理方式首先进行实体和关系的嵌入化， 通过得到了所有的实体和关系后， 接下来进行 编码。权　利　要　求　书 1/2 页 2 CN 114925215 A 27.根据权利要求3所述的一种知识图谱嵌入表示方法， 其特征在于： 所述输出层通过使 用注意力函数， 计算路径的匹配分数， 且通过 该分数来表明该路径的贡献度。 8.根据权利要求2所述的一种知识图谱嵌入表示方法， 其特征在于所述候选三元组进 行概率分数计算操作表示 为： P(r|e1,et)＝sigmo id(Wp(o+m))。权　利　要　求　书 2/2 页 3 CN 114925215 A 3