(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211058058.2 (22)申请日 2022.08.30 (71)申请人 浙江大学滨江研究院 地址 310051 浙江省杭州市滨江区东信大 道66号二号楼301 申请人 浙江中烟工业有限责任公司 (72)发明人 潘晓华　金泳　高扬华　王欣锋　 沈诗婧　朱心洲　尹建伟　 (74)专利代理 机构 杭州天勤知识产权代理有限 公司 33224 专利代理师 高燕 (51)Int.Cl. G06F 16/9535(2019.01) G06F 16/2457(2019.01) G06F 16/2458(2019.01)G06Q 30/02(2012.01) G06F 40/30(2020.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 17/16(2006.01) (54)发明名称 基于数据血缘特征和行为语义特征的自注 意力推荐方法、 装置及设备 (57)摘要 本申请公开了一种基于数据血缘特征和行 为语义特征的自注意力推荐方法， 包括： 利用用 户的历史交互序列信息以及涉及产品的数据血 缘关系信息基于神经网络训练出产品推荐模型， 所述的产品推荐模型包括数据血缘特征提取模 块、 行为语义建模模块和自注意力解码器； 获取 目标用户的历史交互序列信息以及涉及产品的 数据血缘关系信息并输入训练好的产品推荐模 型， 输出对应的目标推荐产品。 本发明同时还提 供了基于数据血缘特征和行为语义特征的自注 意力推荐装置及设备。 本方法的推荐方法训练出 的产品推荐模 型， 能够进一步利用数据血缘特征 和用户行为语义特征， 因此能够更加准确地进行 物品推荐。 权利要求书3页 说明书11页 附图2页 CN 115455286 A 2022.12.09 CN 115455286 A 1.一种基于数据血缘特 征和行为语义特 征的自注意力推荐方法， 其特 征在于， 包括： 利用用户的历史交互序列信息以及涉及产品的数据血缘关系信息基于神经网络训练 出产品推荐模型， 所述的产品推荐模型包括数据血缘特征提取模块、 行为语义建模模块和 自注意力解码器； 获取目标用户的历史交互序列信息以及涉及产品的数据血缘关系信息并输入训练好 的产品推荐模型， 输出对应的目标推荐产品。 2.根据权利要求1所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 所述的产品推荐模型包括： 数据血缘特征提取模块， 根据用户的历史交互序列中所涉及产品的血缘链路图， 通过 多层图卷积层得到产品的数据血缘特 征； 行为语义建模 模块， 根据用户的历史 交互序列提取用户的行为语义特 征； 自注意力解码器， 将数据血缘特 征和行为语义特 征转换成目标推荐产品的概 率分布。 3.根据权利要求2所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过 数据血缘特 征提取模块 提取数据血缘特 征的过程包括： 根据产品的数据血缘链路图初始化产品链路节点的特 征矩阵； 通过堆叠多层图卷积层， 将特 征矩阵的信息逐层高阶传递， 得到产品的数据血缘特 征。 4.根据权利要求3所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过以下步骤提取产品的数据血缘特 征： (A1)定义数据血缘链路图为 其中， 为图中的数据血缘节点， 为 节 点 之 间 的 关 系 ；令 数 据 血 缘 链 路 图 的 度 矩 阵 、邻 接 矩 阵 分 别 为 令 为包含共 个节点的特征向量的矩阵， 其中每一行 是节点vi的特征向量； (A2)通过首层图卷积层得到产品链路节点的初始化特 征矩阵， 计算公式为： 式中， 为首层图卷积层输出的初始化特征矩阵； ρ 为激活函数； W0为权 重矩阵； 为归一化对称自相关矩阵； (A3)通过多层图卷积层依次将初始化特征矩阵的信息逐层高阶传递， 得到产品的数据 血缘特征， 计算公式为： 其中， 和Wj分别为第j层特 征矩阵和权 重矩阵； (A4)至此， 得到用户的历史 交互序列中涉及产品的数据血缘特 征 其中， GCN 为j层图卷积网络， X为 个节点的特 征向量的矩阵， [ ·]为切片操作。 5.根据权利要求2所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过 行为语义建模 模块提取用户的行为语义特 征的过程包括：权　利　要　求　书 1/3 页 2 CN 115455286 A 2针对用户的历史 交互序列中涉及的产品集 合生成固定 长度的产品嵌入矩阵； 为用户的历史交互序列中的每项产品生成独热编码， 并对独热编码与产品嵌入矩阵做 矩阵乘法， 获得用户交 互序列嵌入矩阵； 将用户交 互序列嵌入矩阵与对应的时间编码融合， 获得用户的行为语义特 征。 6.根据权利要求5所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过以下步骤提取用户的行为语义特 征： (B1)定义用户历史交互序列 用户历史交互序列 中产品的集合 为产品嵌入矩阵， 对于历史交互序列 中的每个产品lk的嵌入向量为E/lk， 其中 是 产品lk对应的独热向量； (B2)利用位置编码对交 互的时间进行编码， 由下式计算时间特 征嵌入Et： 其中， i∈{1,2, …,dm}表示时间嵌入 的维度， tk表示交互活动发生的时间戳； (B3)则用户历史 交互序列 的历史交互嵌入矩阵 由下式计算： 其中， 表示产品lk的独热向量的集合， T表示转置操作； 历史交互嵌入矩阵 即为行为语义特 征。 7.根据权利要求2所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过自注意力解码器将数据血缘关系特征和行为语义特征转换成目标推荐产品 的概率分布包括： 所述的自注意力解码器包括多头注意力模块、 前馈神经网络和多层感知器； 通过分配自注意力分数对历史 交互序列中产品之间的依赖关系进行建模； 通过多头注意力模块 提取多重映射空间下的高维特 征； 通过前馈神经网络和多层感知器将所述高维特 征转换成概 率分布。 8.根据权利要求7所述的基于数据血缘特征和行为语义特征的自注意力推荐方法， 其 特征在于， 通过自注意力解码器获得 标推荐产品的概 率分布包括以下步骤： (C1)将数据血缘特征 和行为语义特征 进行广播相加， 得到融合血缘特征 和行为语义特 征的表示矩阵 (C2)通过以下公式计算注意力输出 Q＝YWQ,K＝YWK,V＝YWV 其中， Q、 K和V分别是从表示矩阵Y变化过来的查询矩阵、 键矩阵和值矩阵 ，权　利　要　求　书 2/3 页 3 CN 115455286 A 3