(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111245693.7 (22)申请日 2021.10.26 (71)申请人 江苏苏宁银行股份有限公司 地址 210000 江苏省南京市 建邺区河西金 融城4号楼 (72)发明人 阮鹤樵　侯亦杨　郑清正　 (74)专利代理 机构 南京瑞华腾知识产权代理事 务所(普通 合伙) 32368 代理人 邱欢欢 (51)Int.Cl. G06Q 10/06(2012.01) G06N 20/00(2019.01) G06F 16/23(2019.01) G06N 3/02(2006.01) (54)发明名称 一种基于模型的理由代码实时模型解释方 法 (57)摘要 本发明公开了一种基于模型的理由代码实 时模型解释方法。 该方法包括针对于每一预测样 本， 分别计算每一特征的贡献度； 根据所述贡献 度的大小降序输出n个特征及其 分别对应的贡献 度。 本发明通过对模型内特征的贡献度进行计 算， 并根据贡献度的大小降序输出展示特征及其 分别对应的贡献度， 并可存储现有数据库中， 商 业落地合作伙伴可以在调用预测分数的同时直 接调用， 本发明还从外部数据源中挖掘更新特 征， 当更新特征的更新特征的信息值超过相应的 阈值时， 输出将该理由代码作为特征纳入模型当 中的建议信息， 作为模型迭代更新前置信号。 权利要求书2页 说明书4页 附图1页 CN 114021918 A 2022.02.08 CN 114021918 A 1.一种基于模型的理由代码实时模型解释方法， 其特 征在于， 包括： 将模型表示为Y＝f(X1， X2， X3， X4， ...， Xn)， 其中， Y为模型输出， X1， X2， X3， X4， ...， Xn分别 为模型中的特 征， n为大于4的自然数； 针对于每一预测样本， 分别计算每一特 征的贡献度； 根据所述贡献度的大小降序输出n个特 征及其分别对应的贡献度。 2.根据权利要求1所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 所述贡 献度的计算方式具体如下： 其中， φi为第i个特征的贡献度， i为特征的下标， 1≤i≤n， F为所有特征的集合， |F|为 集合F中的特征个数， S为已经入模的变量集合， |S|为该集合S中的变量个数， xS∪{i}为下标 为集合S并上i的特征集合， fS∪{i}为模型在下标为集合S并上i的特征集合上的结果， xS为下 标为集合S的特征， fS为模型在下 标为集合S的特征集合上的结果。 3.根据权利要求1所述的基于模型的理由代码实时模型解释方法， 其特征在于， 还包 括： 根据商业经验和对于模型场景本身的了解， 从外部数据源中挖掘出m个更新特征 Xn+1， ....Xn+m， 其中m为大于1的自然数； 计算每一更新特 征Xn+1， ....Xn+m分别计算加权平均信息价 值； 根据加权平均信息价 值输出建议决策。 4.根据权利要求3所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 所述加 权平均信息价 值的计算方式具体如下： 将模型上线后积累的含有标签的回流数据， 将其按照落库时间的顺序等分为k份， 所述 回流数据依次分为D1， D2， D3， ...， Dk； 采用所述回流数据， 分别计算每一更新特 征的信息值 IV‑1， ...， IV‑k； 根据所述更新特 征的信息值 IV‑1， ...， IV‑k计算更新特 征的加权平均信息价 值： 其中， adjustedAverageIVF为加权平均信息价值， a为回流数据的序号， 1≤a≤k； IVa为 第a个回流数据计算出的所述更新特 征的信息值。 5.根据权利要求3所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 当加权 平均信息价 值＜第一阈值时， 输出不建议加入； 当第一阈值≤加权平均信息价值≤第二阈值时， 输出建议继续观测一段时间， 收集更 多证据； 当加权平均信息价 值>第二阈值时， 输出建议在下一 步迭代更新模型时加入该 特征。 6.根据权利要求5所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 所述第 一阈值为0.05。 7.根据权利要求5所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 所述第权　利　要　求　书 1/2 页 2 CN 114021918 A 2二阈值为0.1。 8.根据权利要求1所述的基于模型的理 由代码实时模型解释方法， 其特征在于， 所述模 型包括针对结构化数据的决策树模型、 基于二维数据的线性回归模型以及针对图像/文本 数据的深度学习神经网络模型。权　利　要　求　书 2/2 页 3 CN 114021918 A 3