(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210637518.0 (22)申请日 2022.06.07 (71)申请人 杭州电子科技大 学 地址 310018 浙江省杭州市下沙高教园区2 号大街 (72)发明人 李梦茹　高发荣　张启忠　 (74)专利代理 机构 北京盛凡佳华专利代理事务 所(普通合伙) 11947 专利代理师 龚楠 (51)Int.Cl. G06V 10/764(2022.01) G06V 10/762(2022.01) G06N 20/00(2019.01) (54)发明名称 一种基于伪标签改进的迁移学习方法 (57)摘要 本发明提出一种基于伪标签改进的迁移学 习方法， 用于解决迁移学习中因目标伪标签不精 准造成目标分类器精度效果受损的问题。 本发明 方法首先通过将目标域样本聚类后与源域已确 定的类别中心进行类别匹配(类心匹配)， 获取伪 标签； 并且通过添加特征投影减小原始样本差 异。 最后结合投影后的低维样 本和伪标签进行目 标加权， 学习目标分类器。 与现有技术相比， 本发 明能够通过改善伪标签精度以及对样本进行特 征投影处理， 来提高样本的加权效果和提升目标 样本的分类精度。 权利要求书2页 说明书4页 附图1页 CN 115035335 A 2022.09.09 CN 115035335 A 1.一种基于伪标签改进的迁移学习方法， 其特 征在于， 包括以下主 要步骤： 步骤(1)， 特 征投影； 具体为， 通过学习一个投影矩阵 将原始高维空间的源域 (其中 是源域样本， 是相应的标签)中的源域样本Xs， 和目标域 (其中 为目标样本)中的目标样本Xt， 投影到一个 公共低维特征空间， 在 这个子空间上， 不仅将原 始空间的维度从m维降低到d维， 还能减小样本的分布差异； 步骤(2)， 类心匹配； 具体为， 首先获取类心(分别获取源域和目标域的类心)： 由于源域样本有标签， 因此源 域的类心可以通过计算同类样本的投影均值得到,对于目标域， 通过 K‑means算法获取； 其次进行类心匹配： 通过最近邻 搜索方法为每一个目标域的类心寻找距离最近的源类 心， 实现对该类目标样本进行集体标记； 其中， 表示目标样本的聚类中心矩阵， 是用来计算源域经投影后样 本类心的常数矩阵， 如果源域样本的标签为第 j类， 则常数矩阵的值为该类源域类别数的倒 数， 否则为0； 通过类心匹配， 得到 目标域伪标签矩阵以及经处理后的源域和目标域 的特征为Zs、 Zt： Zs＝PTXs、 Zt＝PTXt， 将得到的伪标签和投影源域和目标域样本用于样本加权； 步骤(3)， 样本加权； 具体为： 首先利用类心匹配方法对目标样本进行伪标签预测； 其次通过训练一个能够 区分源域和目标域样本的域分类器， 将源域和目标域尽可能划分开， 再根据目标样本到该 二值域超平面的有向距离进行加权； 最后利用流形正则化强制目标预测函数对邻近目标样 本给出相似输出， 样本加权公式如(3)所示 其中， ft(Zti)代表目标分类器对目标样本的预测， G(Zti)表示经类心匹配后得到的目标 样本的预测， λ是平衡因子， ζ是目标域的邻接矩阵， 衡量样本的相 似度， τ是归一化因子， 保 证加权后的目标域分布仍规范， υ是比例因子， Ωi表示目标样本到域分类面的有向距离， 距 离越远权值越小； 公式(3)的第一项表示如果目标样本和源域样本的距离更接近， 那么此目标域样本则 更有可能在经过类心匹配后被正确分类， 获得更加 准确的伪标签； 如果 目标域样本的伪标 签越准确， 我们就赋予它一个更大的权重； 此时最小化公式(3)的第一项， 要求目标分类器 对目标样本的预测值ft(Zti)应接近类心匹配的伪标签预测值G(Zti)， 否则目标分类器的预权　利　要　求　书 1/2 页 2 CN 115035335 A 2测值将不会受到类心匹配后伪标签的影响； 公式第二项利用流形正则化框架使最 终的目标 分类器更加 适配目标域， 将拥有较大权值的目标样本标签传递给权值较小的目标样本， 进 行目标样本的标签传播； 通过对公式(3)化简并求 解可得到目标域分类 器ft(Z)， 实现对目标域样本的预测分类。 2.根据权利要求1所述的一种基于伪标签改进的迁移学习方法， 其特征在于： 在步骤 (3)中， 将步骤(1)、 (2)中获得的投影源域、 目标域样 本以及目标样 本伪标签， 用于样 本加权 以及提高目标分类 器的精度。权　利　要　求　书 2/2 页 3 CN 115035335 A 3