(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210504446.2 (22)申请日 2022.05.10 (71)申请人 山东工商学院 地址 264005 山东省烟台市莱山区滨 海中 路191号 (72)发明人 唐焕玲　刘孝炎　王育林　窦全胜　 鲁明羽　 (74)专利代理 机构 济南圣达知识产权代理有限 公司 372 21 专利代理师 赵妍 (51)Int.Cl. G06F 16/35(2019.01) G06K 9/62(2022.01) G06F 40/30(2020.01) G06N 3/04(2006.01)G06N 3/08(2006.01) G06F 17/18(2006.01) (54)发明名称 一种基于动态多层语义感知机的文本分类 方法及系统 (57)摘要 本发明提供了一种基于动态多层语义感知 机的文本分类方法及系统， 包括： 获取待分类文 本； 采用动态多层语义感知机模型， 得到所述待 分类文本所属的类别； 其中， 动态多层语义感知 机模型包括词嵌入层、 若干层依次连接的加权特 征学习器和动态深度控制器， 每层加权特征学习 器由依次连接的语义感知机和基分类器构成； 所 述词嵌入层的输出作为所有加权特征学习器的 语义感知机的输入， 每层加权特征学习器的基分 类器的输 出均输入所述动态深度控制器， 每层加 权特征学习器的语义感知机的输出作为下一层 加权特征学习器的语义感知机的输入。 不仅提高 了特征学习质量， 降低了时间复杂度和空间复杂 度， 而且减少了模型参数量， 适用于训练样本不 足的情况。 权利要求书2页 说明书21页 附图4页 CN 114840674 A 2022.08.02 CN 114840674 A 1.一种基于动态多层语义感知机的文本分类方法， 其特 征在于， 包括： 获取待分类文本； 采用动态多层语义感知机模型， 得到所述待分类文本所属的类别； 其中， 动态多层语义感知机模型包括词嵌入层、 动态深度控制器和若干层依次连接的 加权特征学习器， 每层加权特征学习器由依 次连接的语义感知机和基分类器构成； 所述词 嵌入层的输出作为所有加权特征学习器的语义感知机的输入， 每层加权特征学习器的语义 感知机的输出作为下一层加权特征学习器的语义感知机的输入， 每层加权特征学习器的基 分类器的输出均输入所述动态深度控制器。 2.如权利要求1所述的一种基于动态多层语义感知机的文本分类方法， 其特征在于， 所 述每层加权特征学习器的语义感知机， 基于上一层语义感知机输出 的文本特征、 随机序列 转换后的文本初始特征、 以及多层感知机处理后的所述上一层语义感知机输出的文本特 征， 经过加法和归一 化操作， 得到 输出的文本特 征。 3.如权利要求1所述的一种基于动态多层语义感知机的文本分类方法， 其特征在于， 所 述每层加权特征学习器的基分类器， 基于同一层加权特征学习器的语义感知机输出的文本 特征， 得到加权特 征学习器输出的预测结果。 4.如权利要求1所述的一种基于动态多层语义感知机的文本分类方法， 其特征在于， 所 述动态深度控制器， 对所述每层加权特征学习器的基分类器输出的预测结果进行加权平 均， 得到文本属于每 个类别的概 率， 将概率最高的类别作为文本所属的类别。 5.如权利要求1所述的一种基于动态多层语义感知机的文本分类方法， 其特征在于， 所 述动态多层语义感知机模型的训练过程 为： 初始化迭代次数和模型参数， 并计算训练集中的文本的初始特 征； 基于所述初始特征和模型参数， 计算每层加权特征学习器得到的预测结果， 并输入所 述动态深度控制器， 来优化模型深度， 并计算每层加权特征学习器得到的基分类器权重， 对 每层加权特征学习器得到的文本类别概率进行集成， 得到集成预测结果， 并结合训练集中 的真实标签， 优化模型参数； 判断是否满足结束条件， 若是， 输出模型参数作为最优的模型参数， 得到训练好的动态 多层语义感知机模型； 否则， 迭代次数增 加， 并继续优化模型参数。 6.如权利要求5所述的一种基于动态多层语义感知机的文本分类方法， 其特征在于， 所 述优化模型深度的具体方法为： 基于所述每层加权特征学习器得到的预测结果， 计算每层 加权特征学习器的基分类器的正确 率， 基于所述正确 率及阈值， 判断是否满足调整模型深 度条件， 若是， 调整模型深度； 否则保持模型深度不变。 7.一种基于动态多层语义感知机的文本分类系统， 其特 征在于， 包括： 文本获取模块， 其被 配置为： 获取待分类文本； 分类模块， 其被配置为： 采用动态多层语义感知机模型， 得到所述待分类文本所属的类 别； 其中， 动态多层语义感知机模型包括词嵌入层、 动态深度控制器和若干层依次连接的 加权特征学习器， 每层加权特征学习器由依 次连接的语义感知机和基分类器构成； 所述词 嵌入层的输出作为所有加权特征学习器的语义感知机的输入， 每层加权特征学习器的基分 类器的输出均输入所述动态深度控制器， 每层加权特征学习器的语义感知机的输出作为下权　利　要　求　书 1/2 页 2 CN 114840674 A 2一层加权特 征学习器的语义感知机的输入。 8.如权利要求7所述的一种基于动态多层语义感知机的文本分类系统， 其特征在于， 还 包括训练模块， 其被 配置为： 初始化迭代次数和模型参数， 并计算训练集中的文本的初始特 征； 基于所述初始特征和模型参数， 计算每层加权特征学习器得到的预测结果， 并输入所 述动态深度控制器， 来优化模型深度， 并计算每层加权特征学习器得到的基分类器权重， 对 每层加权特征学习器得到的文本类别概率进行集成， 得到集成预测结果， 并结合训练集中 的真实标签， 优化模型参数； 判断是否满足结束条件， 若是， 输出模型参数作为最优的模型参数， 得到训练好的动态 多层语义感知机模型； 否则， 迭代次数增 加， 并继续优化模型参数。 9.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该程序被处理器执 行时实现如权利要求1 ‑6中任一项 所述的一种基于动态多层语义感知机的文本 分类方法中 的步骤。 10.一种计算机设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计 算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求 1‑6中任一项 所述的一 种基于动态多层语义感知机的文本分类方法中的步骤。权　利　要　求　书 2/2 页 3 CN 114840674 A 3