全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210963403.0 (22)申请日 2022.08.11 (71)申请人 北京世纪好未来教育科技有限公司 地址 100086 北京市海淀区中关村大街32 号蓝天和盛大厦1702- 03室 (72)发明人 李云良 胡飞 王智浩 李木子  (74)专利代理 机构 北京北汇律师事务所 1 1711 专利代理师 毕艳红 (51)Int.Cl. G06F 40/211(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于信息熵的句子排序方法、 装置和电子设 备 (57)摘要 本公开提供一种基于信息熵的句子排序方 法、 装置和电子设备, 属于计算机领域。 该句子排 序方法, 包括: 获取待排序的多个句子; 确定 该多 个句子中每个句子在段落中各个位置上的概率; 基于多个句子中每个句子在段落中各个位置上 的概率, 确定 各个排序路径的信息熵, 其中, 排序 路径的信息熵与排序路径对应的语义连贯性负 相关; 基于各个排序路径的信息熵, 确定多个句 子的排序结果。 采用本公开, 可实现句子排序以 得到语义连贯的段落。 权利要求书2页 说明书13页 附图10页 CN 115293134 A 2022.11.04 CN 115293134 A 1.一种句子排序方法, 其特 征在于, 包括: 获取待排序的多个句子; 确定所述多个句子中每 个句子在段落中各个位置上的概 率; 基于所述多个句子 中每个句子在段落中各个位置上的概率, 确定各个排序路径的信 息 熵, 其中, 排序路径的信息熵与排序路径对应的语义连贯 性负相关; 基于所述各个排序路径的信息熵, 确定所述多个句子的排序结果。 2.如权利要求1所述的句子排序方法, 其特征在于, 所述确定所述多个句子 中每个句子 在段落中各个位置上的概 率, 包括: 对于每个句子, 使用句子排序模型的第一编码模块对该句子进行句子编码, 以输出该 句子的第一向量, 其中, 每 个句子的第一向量 为该句子的句子嵌入表示; 将所述多个句子的第 一向量组成输入序列, 使用句子排序模型的第 二编码模块基于所 述输入序列进行段落编码, 以输出编码矩阵, 将所述编码矩阵中每个句 子对应的编码向量 作为该句子的第二向量; 对于每个句子的第二向量, 使用句子排序模型的解码模块处理该第二向量, 以输出该 句子在段落中各个位置上的概 率。 3.如权利要求2所述的句子排序方法, 其特征在于, 所述解码模块包括全连接神经网 络, 其中, 所述全连接神经网络的输入层的神经元数与所述第二向量的维度相匹配, 所述全 连接神经网络的输出层的每 个神经元的输出对应于段落中一个位置的概 率。 4.如权利要求2或3所述的句子排序 方法, 其特征在于, 所述多个句子为N个句子, 其中, N为不小于2的自然数; 所述确定所述多个句子中每个句子在段落中各个位置上的概率, 包括: 确定所述N个句 子中每个句子在M个位置上的概 率, 其中, M为预设值, 且M为 不小于2的自然数, M不小于N; 所述基于所述多个句子 中每个句子在段落中各个位置上的概率, 确定各个排序路径的 信息熵, 包括: 基于所述N个句子中每个句子在所述M个位置中前N个位置上的概率, 确定各 个排序路径的信息熵。 5.如权利要求1至3中任一项所述的句子排序方法, 其特征在于, 所述基于所述多个句 子中每个句子在段落中各个位置上的概 率, 确定各个排序路径的信息熵, 包括: 基于所述多个句子中每个句子在段落中各个位置上的概率和所述多个句子中每个句 子在段落中各个位置上的概 率的对数值, 确定各个排序路径的信息 。 6.如权利要求5所述的句子排序方法, 其特征在于, 按照以下方式确定各个排序路径的 信息熵: H(P)=‑∑S(P(Tpk)*logP(Tpk)), 其中, H(P)表示排序路径P的信息熵, P(Tpk)表示句子Tp在第k个位置的概率, S表示所述 多个句子的集 合, Tp属于S。 7.如权利要求1至 3中任一项所述的句子排序方法, 其特 征在于, 所述方法还 包括: 按照信息熵从大到小的顺序对所述各个排序路径进行排序; 选取排在前P位的排序路径作为乱序句子序列, 以用于训练句子排序模型。 8.一种句子排序装置, 其特 征在于, 包括: 获取模块, 用于获取待排序的多个句子;权 利 要 求 书 1/2 页 2 CN 115293134 A 2第一确定模块, 用于确定所述多个句子中每 个句子在段落中各个位置上的概 率; 第二确定模块, 用于基于所述多个句子中每个句子在段落中各个位置上的概率, 确定 各个排序路径的信息熵, 其中, 排序路径的信息熵与排序路径对应的语义连贯 性负相关; 第三确定模块, 用于基于所述各个排序路径的信息熵, 确定所述多个句子的排序结果。 9.一种电子设备, 其特 征在于, 包括: 处理器; 以及 存储程序的存 储器, 其中, 所述程序包括指令, 所述指令在由所述处理器执行时使所述处理器执行根据权 利要求1‑7中任一项所述的方法。 10.一种存储有计算机指令的非瞬时计算机可读存储介质, 其特征在于, 所述计算机指 令用于使所述计算机执 行根据权利要求1 ‑7中任一项所述的方法。权 利 要 求 书 2/2 页 3 CN 115293134 A 3

PDF文档 专利 基于信息熵的句子排序方法、装置和电子设备

文档预览
中文文档 26 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共26页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于信息熵的句子排序方法、装置和电子设备 第 1 页 专利 基于信息熵的句子排序方法、装置和电子设备 第 2 页 专利 基于信息熵的句子排序方法、装置和电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:14:13上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。