(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111644937.9 (22)申请日 2021.12.3 0 (71)申请人 安徽科大讯飞医疗信息技 术有限公 司 地址 230008 安徽省合肥市高新区望江西 路666号A5楼23-24层 (72)发明人 冯韬　贺志阳　赵景鹤　肖飞　 高丽蓉　 (74)专利代理 机构 深圳紫藤知识产权代理有限 公司 44570 代理人 何艳 (51)Int.Cl. G06F 40/157(2020.01) G06F 40/279(2020.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 文本结构化处理方法、 装置、 存储介质及计 算机设备 (57)摘要 本申请公开了一种文本结构化处理方法、 装 置、 存储介质及计算机设备。 该方法包括： 基于知 识字典中的实体及实体类型， 对待结构化处理的 文本信息进行 实体提取编码处理， 得到文本信息 中的各实体的实体编码特征， 将文本信息对应的 文本字符特征与实体编码特征进行拼接处理， 得 到包括文本字符特征和实体编码特征的特征集 合， 获取特征集合中各特征相对于文本信息的实 体注意力权重， 根据实体注意力权重， 对文本信 息进行编码得到文本信息所对应的文本编码特 征， 文本编码特征进行解码得到文本信息中的结 构化信息。 本申请可同时抽取文本信息中的关联 关系和实体， 消除了误差传播， 增强了不同实体 之间的信息交互， 提高了文本结构化处理的准确 性。 权利要求书3页 说明书17页 附图5页 CN 114266230 A 2022.04.01 CN 114266230 A 1.一种文本结构化处 理方法， 其特 征在于， 包括： 基于知识字典中的实体及实体类型， 对待结构化处理的文本信 息进行实体提取编码处 理， 得到所述文本信息中各实体的实体编码特 征； 将所述文本信 息对应的文本字符特征与 所述实体编码特征进行拼接处理， 得到包括所 述文本字符特征和所述实体编码特 征的特征集合； 获取所述特征集合中各特征相对于所述文本信息的实体注意力权 重； 根据所述实体注意力 权重， 对所述文本信 息进行编码得到所述文本信 息所对应的文本 编码特征； 对所述文本编码特征进行解码得到所述文本信 息中的结构化信 息， 所述结构化信 息包 括目标实体、 所述目标实体对应的目标实体 类型以及所述目标实体 类型之间的关系类型。 2.根据权利要求1所述的文本结构化处理方法， 其特征在于， 所述获取所述特征集合中 各特征相对于所述文本信息的实体注意力权 重的步骤， 包括： 确定所述特征集合中各特征之间的相关性， 所述各特征包括各文本字符特征和各实体 编码特征； 将所述相关性确定为所述特 征集合中各特征相对于所述文本信息的实体注意力权 重。 3.根据权利要求2所述的文本结构化处理方法， 其特征在于， 所述确定所述特征集合中 各特征之间的相关性的步骤， 包括： 确定所述特征集合中各文本字符特征与 各文本字符特征之间的相关性、 确定各文本字 符特征与各实体编 码特征之 间的相关性、 确定各实体编 码特征与各文本字符特征之 间的相 关性， 以及确定各实体编码特 征与各实体编码特 征之间的相关性。 4.根据权利要求3所述的文本结构化处 理方法， 其特 征在于， 所述确定各文本 字符特征与各实体编码特 征之间的相关性的步骤， 包括： 利用文本实体参数矩阵， 对所述特征集合中的任一个文本字符特征、 所述特征集合中 的任一个实体编码特征进 行点积处理， 以得到各文本字符特征与各实体编 码特征之 间的点 积处理结果； 将所述点积处理结果进行归一化处理， 以得到各文本字符特征与各实体编码特征之间 的相关性； 所述确定各实体编码特 征与各文本 字符特征之间的相关性的步骤， 包括： 利用实体文本参数矩阵， 对所述特征集合中的任一实体编码特征、 所述特征集合中的 任一文本字符特征进 行点积处理， 以得到各实体编 码特征与各文本编 码特征之 间的点积处 理结果； 将所述点积处理结果进行归一化处理， 以得到各文本字符特征与各实体编码特征之间 的相关性。 5.根据权利要求1所述的文本结构化处理方法， 其特征在于， 所述根据 所述实体注意力 权重， 对所述文本信息进行编码得到所述文本信息所对应的文本编码特 征的步骤， 包括： 对于所述特征集合中每个特征， 将所述特征所对应的实体注意力 权重和所述特征集合 中的各特征进行点积处 理； 将点积处 理得到的各 特征进行求和处 理， 以得到文本信息所对应的文本编码特 征。 6.根据权利要求1所述的文本结构化处理方法， 其特征在于， 所述基于知识字典中的实权　利　要　求　书 1/3 页 2 CN 114266230 A 2体及实体类型， 对待结构化处理的文本信息进行实体提取编码处理， 得到所述文本信息中 各实体的实体编码特 征的步骤， 包括： 基于知识字典中的实体及实体类型， 对待结构化处理的文本信息进行实体提取， 以得 到所述文本信息中的各实体和对应的实体 类型； 对所述各实体和对应的所述实体类型进行编码处理， 以得到所述文本信 息中各实体的 实体编码特 征。 7.根据权利要求6所述的文本结构化处理方法， 其特征在于， 所述对所述各实体和对应 的所述实体类型进行编码处理， 以得到所述文本信息中各实体的实体编码特征 的步骤， 包 括： 对所述各实体进行 特征编码处 理， 以得到各实体对应的实体文本特 征； 对所述各实体 类型进行编码处 理， 以得到各实体 类型对应的类型编码特 征； 将各实体对应的实体文本特征和对应的所述类型编码特征叠加， 以确定所述文本信 息 中各实体的实体编码特 征。 8.根据权利要求6所述的文本结构化处理方法， 其特征在于， 所述基于知识字典中的实 体及实体类型， 对待结构化处理的文本信息进行实体提取， 以得到所述文本信息中的各实 体和对应的实体 类型的步骤， 包括： 将所述待结构化处理的文本信息， 与知识字典中的实体进行比对， 以提取所述文本信 息中的实体； 根据知识字典中的实体及实体类型的对应关系， 确定所述文本信 息中的实体所对应的 实体类型。 9.根据权利要求1所述的文本结构化处理方法， 其特征在于， 所述对所述文本编码特征 进行解码得到所述文本信息中的结构化信息的步骤， 包括： 基于掩码自注意力机制， 对解码器中当前时刻的输入特征进行掩码处理， 以得到掩码 特征， 所述当前时刻的输入特征包括所述当前时刻输入的当前特征和当前时刻之前输入的 输入特征； 将所述掩码特 征进行归一 化以及求和处 理； 将求和处理后的特征和文本编码特征进行交互处理， 以得到所述解码器当前时刻的输 出特征； 将所述输出特征映射至字典空间， 以得到所述输出特征对应的字典空间中的目标实 体、 和/或目标实体对应的目标实体 类型和/或目标实体 类型之间的关系类型。 10.根据权利要求1所述的文本结构化处 理方法， 其特 征在于， 还 包括： 基于知识字典中的实体及实体类型， 对待结构化处理的训练文本数据集中的每个训练 文本信息进行实体提取编码处 理， 得到所述训练文本信息中各实体的训练实体编码特 征； 将所述训练文本信息对应的训练文本字符特征与所述训练实体编码特征进行拼接处 理， 得到包括所述训练文本 字符特征和所述训练实体编码特 征的训练特 征集合； 获取所述训练特征集合中各训练特征相对于所述训练文本信息的训练实体注意力权 重； 根据所述训练实体注意力 权重， 对所述训练文本信 息进行编码得到所述训练文本信 息 所对应的训练文本编码特 征；权　利　要　求　书 2/3 页 3 CN 114266230 A 3