(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211276694.2 (22)申请日 2022.10.19 (71)申请人 之江实验室 地址 311121 浙江省杭州市余杭区之江实 验室南湖总部 (72)发明人 黎沩安　杨冬平　 (74)专利代理 机构 北京志霖恒远知识产权代理 有限公司 1 1435 专利代理师 戴莉 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/063(2006.01) G06N 3/08(2006.01) (54)发明名称 一种脉冲神经网络储备池计算模型构建方 法及装置 (57)摘要 本发明公开一种脉冲神经网络储备池计算 模型构建方法及装置， 包括构建脉冲神经元的膜 电位动力学方程、 脉冲神经网络突触可塑性的动 力学方程和脉冲神经元膜电位动态时间尺度模 型以及突触动态时间尺度模型， 并利用上述方程 和模型构建基于脉冲神经元的脉冲神经网络储 备池隐藏层。 本发明提出了具有动态时间尺度和 STD的脉冲神经网络的储备池的构建方法。 这个 模型能够彻底解决了在记忆任务中模型的工作 参数的鲁棒性问题。 本发明构建的具有动态时间 尺度的基于脉冲神经网络的储备池模 型， 满足参 数量小， 计算简单， 鲁棒性强的优点， 容易在神经 拟态芯片中实现， 高鲁棒性使得芯片的性能不容 易被影响， 具有很好的应用前 景。 权利要求书2页 说明书10页 附图4页 CN 115358375 A 2022.11.18 CN 115358375 A 1.一种脉冲神经网络储备池计算模型构建方法， 其特 征在于， 包括如下步骤： 步骤S1、 设置储备池计算模型的输入层神经元数量、 隐藏层神经元数量和读出层神经 元数量； 步骤S2、 通过在[0,  1]范围内的均匀采样得到的随机矩阵， 设置为输入层和隐藏层之 间的输入连接权重， 所述 随机矩阵的行列数分别对应隐藏层神经元数量、 输入层神经元数 量； 步骤S3、 构建脉冲神经元的膜电位动力学方程、 脉冲神经网络突触可塑性的动力学方 程和脉冲神经元膜电位动态时间尺度模型以及突触动态时间尺度模型， 并利用上述方程和 模型构建基于脉冲神经 元的脉冲神经网络储备池隐藏层； 步骤S4、 执行任务时， 进入学习阶段， 将输入序列读入至储存池计算模型， 将每个时刻 的信号乘上输入连接权重后输入给隐藏层， 采集并存储每个时刻网络内部所有脉冲神经元 的膜电位状态向量， 作为状态向量矩阵； 收集并存储每个时刻目标读出向量， 作为目标读出 向量矩阵； 步骤S5、 根据状态向量矩阵和目标读出向量矩阵， 通过线性回归算法， 训练得到从隐藏 层连接到读出神经 元的连接矩阵， 作为读出 连接权重， 学习阶段 结束； 步骤S6、 学习阶段结束后进入测试阶段， 将新的输入序列通过输入权重矩阵进入脉冲 神经网络储备池中， 收集到新的状态向量矩阵， 再根据训练好的读出连接权重， 将新的状态 向量矩阵乘上读出 连接权重， 得到每 个时刻的预测输出。 2.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 储备池计算模型的读出 连接权重只训练一次， 所述读出 连接权重学习完成后固定不变。 3.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 脉冲神经元膜电位动力学方程， 描述符合真实生物神经元情况的简化的神经元膜电位的变 化过程， 神经元接收外部输入， 以及接收到来自与自身连接的其它神经元发射的脉冲输入， 当神经元接收到脉冲后， 自身膜电位会上升， 当膜电位超过阈值， 神经元会发射一个脉冲， 传递给相连的下游神经 元， 同时膜电位会被重新置位。 4.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 步骤S3的具体子步骤如下： 步骤S31、 根据神经元膜电位时间常数、 突触权重、 泄露项以及网络内部神经元之间的 通信和网络的外部输入， 构建脉冲神经元膜电位动力学方程， 用于描述神经元膜电位 随时 间变化的过程； 步骤S32、 根据突触时间常数， 并依据真实生物的大脑中神经元之间突触的一个动力学 变化过程， 构建脉冲神经网络短期突触抑制的突触可塑性动力学方程， 用于描述突触权重 的值随时间变化的过程； 步骤S33、 根据单神经元实验拟合真实数据得到的参数构建脉冲神经元膜电位动态时 间尺度模型以及突触动态时间尺度模型， 用于 分别描述神经元膜电位时间常数和突触时间 常数值受神经 元膜电位的影响并随时间变化的过程； 步骤S34、 根据上述步骤构建得到的脉冲神经元膜电位动力学方程和脉冲神经网络短 期突触抑制的突触可塑性动力学方程， 引入脉冲神经元膜电位动态时间尺度模型以及突触 动态时间尺度模型， 构建基于脉冲神经 元的脉冲神经网络储备池隐藏层。权　利　要　求　书 1/2 页 2 CN 115358375 A 25.如权利要求4所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 神经元膜电位时间常数表示神经元膜电位在没有输入时自衰减的速度； 所述突触权重表示 从突触前神经元到突触后神经元的突触连接池中获得的神经递质资源池的值； 所述突触时 间常数表示突触前神经元发射了一个脉冲后到下一次发射脉冲前， 神经元的神经递质的数 量得到恢复的时间， 用于控制从突触前神经元到突触后神经元的突触连接池中获得的神经 递质资源 池的增长 速度。 6.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 步骤S4中的所述输入序列为一个时间序列， 将时间序列通过储备池模型的输入层， 线性读 入到储备池模型的 隐藏层中， 此时隐藏层中的神经元膜电位随着时间并依据步骤S3中所构 建的方程和模型进行演变， 具有一个动力学 过程。 7.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 读出连接权重训练过程中， 当存在多个输入序列作为训练样本时将这些样本对应的 隐藏层 网络中神经元状态和目标输出按照顺序排列， 依次拼接在状态向量矩阵和目标输出向量矩 阵后面， 执 行一次所述 步骤S5的线性回归算法， 得到对应于多个训练样本的读出权 重。 8.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 步骤S5中训练得到读出连接权重的具体过程为： 将所述状态向量矩阵的转置做伪逆运算后 与目标读出向量矩阵的转置相乘， 相乘得到的结果矩阵的转置 即为从隐藏层连接到读出神 经元的连接矩阵， 即为读出 连接权重。 9.如权利要求1所述的一种脉冲神经网络储备池计算模型构建方法， 其特征在于： 所述 步骤S6中， 通过构建完成的储备池计算模型 得到每个时刻的预测输出的具体过程 为： 步骤S61、 提供新的输入序列给储备池计算模型， 所述新的输入序列通过输入连接权重 进入脉冲神经网络储备池中； 步骤S62、 进入脉冲神经网络储备池的新的输入序列经过动力学的演化， 并收集每个时 刻的储备池内部脉冲神经 元的状态， 作为 新的状态向量矩阵； 步骤S63、 将新的状态向量矩阵与训练好的读出连接权重相乘， 得到每个时刻的预测输 出。 10.一种脉冲神经网络储备池计算模型构建装置， 其特征在于： 所述装置包括存储器和 一个或多个处理器， 所述存储器中存储有可执行代码， 所述一个或多个处理器执行所述可 执行代码时， 用于实现权利要求1 ‑9任一项所述脉冲神经网络储备池计算模型构建方法。权　利　要　求　书 2/2 页 3 CN 115358375 A 3