(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210972319.5 (22)申请日 2022.08.15 (71)申请人 吉林大学 地址 130021 吉林省长 春市前进大街269 9 号 (72)发明人 张雪妍　王文肖　胡卫国　 萨迪克·艾则孜　周璇　 (74)专利代理 机构 南京钟山专利代理有限公司 32252 专利代理师 张力 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 40/30(2020.01) (54)发明名称 一种动态认知诊断联合深度学习模型的认 知干预系统 (57)摘要 本发明公开了一种动态认知诊断联合深度 学习模型的认知干预系统， 提供经 典量表对患者 认知水平进行评分， 并提供认知干预项目对患者 认知水平进行诊断； 认知干预项目在使用之前采 用QuesNet模型预训练， 实现无监督异构干预项 目表征； 在进行认知干 预项目的任务时， 利用EKT 模型结合QuesNet模型对认知干预项目预训练的 结果进行用户知识状态追踪； 通过基于用户的协 同过滤算法， 可以按照现有各用户的知识追踪， 向相似用户推荐对其效果好的项目， 也可依据 QuesNet与EKT模型的结果对效果差的项目进行 改进剔除。 本发 明可实现对干预项目的综合评估 以及干预过程对用户认知水平的动态诊断， 以及 提供个性 化干预方案的动态设计方案 。 权利要求书4页 说明书12页 附图4页 CN 115545147 A 2022.12.30 CN 115545147 A 1.一种动态认知诊断联合深度学习模型的认知干预系统， 其特征在于， 所述认知干预 系统在认知受损患者在使用时， 提供经典量表对患者认知水平进行评分， 并提供认知干预 项目对患者认知水平进行诊断； 所述认知干预项目在使用之前采用深度学习中QuesNet模型预训练： 对项目进行元数 据， 自然语言处 理以及计算机 视觉的数据分析， 实现无监 督异构干预项目表征； 所述认知干预系统在进行认知干预项目的任务时， 对用户编号与所接收到的干预项 目， 以及相应的正误情况与时间进度条情况进行数据收集记录， 采用动态认知 诊断方法， 利 用EKT模型结合Qu esNet模型对认知干预项目预训练的结果进 行用户知识状态追踪， 刻画用 户画像； 所述认知干预系统设有推荐模块， 用于通过基于用户的协同过滤算法， 可以按照现有 各用户的知识追踪， 向相似用户推荐对其效果好的项目， 也可依据QuesNet与EKT模型的结 果对效果差的项目进行改进剔除。 2.根据权利要求1所述的一种动态认知诊断联合深度学习模型的认知干预系统， 其特 征在于， 所述 QuesNet模型分为 三层： 嵌入层， 内容层与语句层； 嵌入层， 用于实现异构语料数据嵌入， 其目标输入为单个干预项目q异构信息表征， 目 标输出为 QuesNet模型训练后获取的语句表征映射： 其中， 单个干预项目q异构信息表征为： x＝{x0， x1， ...， xT}； x0＝m为附属信息， T为项目序列长度， 其 余xi为词或为 W×H大小图片； QuesNet模型训练后获取的语句表征映射 为(v(i)， v(s))； 其中， v(s)为N维单句表征向量； 嵌入层， 用于通过对目标输入处理实现异构语料数据嵌入， 得到嵌入表征向量序列e＝ {e0， e1， ...， eT}， 即项目数据输入到达第一层嵌入层， 依照xt的数据类型按如下条件处理将 异构输入数据映射 为嵌入表征向量序列： 其中， θwe与θte为词嵌入模型与图嵌入模型的参数， 决定对词 语或图片映射后向量的模 Ne； 嵌 入 层 中 将 异 构 的 语 料 信 息 映 射 到 统 一 域 后 进 入 内 容 层 中 ，即 令 内容层应用多层双向LSTM提取低层语义特征， 提取低层语言特征， 最后对每一过程t进 行连接提取双向隐藏状态， 获得对每层的内容表示：权　利　要　求　书 1/4 页 2 CN 115545147 A 2其中 为正向隐藏状态， 为反向隐藏状态， ct为细胞状 态， ht为隐藏状态， θLSTM为LSTM网络的参数； 语句层基于自注意力机制进行高层逻辑知识信息与低层语义特征的融合， 具体的， 采 用多头自注意力机制聚合输入项的特 征获取语句表征： 将语料的当前N维表示记作矩阵Q， 所有语料的标签Key记作矩阵K， 实际的语料表示 Value记作矩阵V， 并采用多头自注意力机制聚合输入项的特 征： MultiHead(Q， K， V)＝co ncatenate(head1， ， headH)WO， 其中， H为注意力头数， WO 为映射矩阵； 实际过程中采用自注意力机制整合内容表征序列v(i)与位置嵌入信息pe(i)； 位置嵌入公式可选用Bert模型的核心transformer层中的三角函数位置编码方式， 为 每个不同位置的to ken单独生成一个位置向量pe(i)； 其中， p为所在的位置,为 i为嵌入向量的维度数,dmodel为位置向量的维度数。 整合后令 进入多头注意力系统,最终采用最大池 化对每一时刻的实际的语料表示进行整合,即： 3.根据权利要求1所述的一种动态认知诊断联合深度学习模型的认知干预系统， 其特 征在于， 在Qu esNet模型预训练阶段， 采用无监督两层分级训练算法进一步从向量中提取问 题信息， 嵌入层中使用Word2Vec针对整个语料库计算初始的词 ‑向量映射， 针对低层特征采 用HLM从大规模语料库中提取语义信息； Quesnet模型 预训练阶段的损失函数如下：权　利　要　求　书 2/4 页 3 CN 115545147 A 3