中国移动通信有限公司研究院 联邦学习 中国移动 联邦学习安全 需求 I 联邦学习 安全需求 白皮书 （2022 年） 中国移动 通信有限公司 研究院 需求白皮书（ 2022） 需求 研究院 中国移动通信有限公司研究院 联邦学习安全需求白皮书（ 2022） II 前 言 本白皮书围绕联邦学习的安全及合规性问题， 对联邦学习的发展 现状、应用场景、关键技术、安全需求等进行了详细研究分析，提出 了中国移动对联邦学习安全需求的愿景， 希望能够与业界合作伙伴一 起在联邦学习安全技术及评测领域持续探索和创新， 共同促进联邦学 习技术的成熟和规模化发展， 提供更丰富更安全的行业应用解决方案， 共同构建和完善联邦学习生态。 本白皮书的版权归中国移动研究院所有，未经授权，任何单位或 个人不得复制或拷贝本白皮书之部分或全部内容。 中国移动通信有限公司研究院 联邦学习安全需求白皮书（ 2022） III 编写单位及人员 编写单位及人员（排名不分先后） ： 中国移动通信有限公司研究院：李征、郭漫雪、信伦、蔡国庆、于路、耿慧拯、 王钰 中移信息技术有限公司：茹志强 中移系统集成有限公司：郭毅峰、张学慧、田博涵 中移（成都）信息通信科技有限公司：唐小勇 国家金融科技测评中心（银行卡检测中心） ：杨波、邱晓慧 上海富数科技有限公司：卞阳 深圳市洞见智慧科技有限公司：姚明、李博 杭州锘崴信息科技有限公司：王爽、李帜 北京百度网讯科技有限公司：董大祥 中国移动通信有限公司研究院 联邦学习安全需求白皮书（ 2022） 1 目录 第一章 联邦学习发展概述 ........................................................................................................... 2 1.1 数据要素市场发展与安全合规要求 ............................................................................... 2 1.2 联邦学习技术及其发展 ................................................................................................... 3 1.3 联邦学习面临的突出问题和挑战 ................................................................................... 5 第二章 联邦学习安全风险分析 ................................................................................................... 6 3.1 信息系统安全风险 ........................................................................................................... 6 3.2 联邦协议安全风险 ........................................................................................................... 7 3.3 联邦业务安全风险 ........................................................................................................... 8 第三章 联邦学习安全需求总体框架 ........................................................................................... 9 2.1 联邦学习安全设计思路 ................................................................................................... 9 2.2 联邦学习安全框架 ........................................................................................................... 9 2.3 联邦学习安全分级建议 ................................................................................................. 11 第四章 展望与倡议 ..................................................................................................................... 12 参考文献 ......................................................................................................................................... 17 中国移动通信有限公司研究院 联邦学习安全需求白皮书（ 2022） 2 第一章 联邦学习发展概述 1.1 数据要素市场发展与安全合规要求 国家持续推动数字经济的发展，着力促进数据要素市场发展。 党的十九届 四中全会决议通过的 《中共中央关于坚持和完善中国特色社会主义制度推进国家 治理体系和治理能力现代化若干重大问题的决定》 （以下简称《决定》 ）中，首次 将数据增列为生产要素， 要求建立健全由市场评价贡献、 按贡献决定报酬的机制。 习近平总书记强调“要构建以数据为关键要素的数字经济。 ”我国已明确加快推 进全社会的数字化转型和数智化发展，亟待建立健全数据流通、协同和价值评价 交换的体制和机制。2020 年 9 月，国资委发文，要求加快推进国有企业数字化 转型工作，推动新一代信息技术与制造业深度融合，打造数字经济新优势等决策 部署，进一步强化数据驱动、集成创新、合作共赢等数字化转型理念。2020 年 11 月， 《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年 远景目标的建议》 全文发布， 提出发展数字经济， 推进数字产业化和产业数字化， 推动数字经济和实体经济深度融合，打造具有国际竞争力的数字产业集群。 数据的隐私安全受到世界各国的广泛和高度重视，法律法规的监管和要求 日益严格。 如：欧盟于2018 年 5 月发布《通用数据保护条例》并正式开始生效, 该条例对于数据保护做出了严格规定；美国《美国加州消费者隐私法》 、新加坡 修订《个人数据保护法案》都对用户隐私进行立法保护。我国对于数据保护的力 度也越发严格， 国家先后发布 《网络安全法》 、 《信息安全技术个人信息安全规范》 、 《信息安全技术网络安全等级保护基本要求》 和 《互联网个人信息安全保护指南》 等法律法规，同时公安部也在严厉打击数据安全犯罪行为。在社会层面，频频曝 光的企业大规模泄露用户数据事件，也使得人们对隐私保护越发重视，企业对数 据价值的应用也日趋谨慎。AI、大数据等创新领域的应用也因此受阻。作为极其 依赖庞大数据的行业，如果无法解决数据安全隐私保护问题，将面临着舆论、监 管的巨大挑战。在这样的背景之下，即便行业有意共享数据，也面临政策、法律 合规的严峻问题。 中国移动通信有限公司研究院 联邦学习安全需求白皮书（ 2022） 3 1.2 联邦学习技术及其发展 联邦学习是一种多个参与方在不交互数据的情况下， 通过安全机制交互模型 参数，从而达到协同训练效果的分布式机器学习方法。 联邦学习属于隐私计算范畴， 隐私计算相关技术除了联邦学习还包括机器学 习，分布式机器学习，密码学（对称非对称加密，同态加密等） ，差分隐私，安 全多方计算等多种不同的技术。 图 1 联邦学习与相关技术概念的关系 联邦学习能有效帮助多个机构在满足用户隐私保护、 数据安全和政府法规的 要求下，进行数据使用和机器学习建模，可使用的机器学习算法包括逻辑回归、 神经网络、随机森林等，有望成为下一代人工智能协同算法和协作网络的基础。 联邦学习由 Google 在 2016 年首次提出， 最初是用于解决安卓手机终端用户 在本地更新输入法中的频繁词模型的问题， 其设计目标是保障大数据交换时的信 息安全，保护终端数据和个人数据隐私，保证合法合规的前提下，在多参与方或 多计算结点之间开展高效率的机器学习。在该模型中，参与者在本地存储所有的 训练数据，在本地训练模型，然后将训练得到的模型更新传到云端，其他参与者 下载更新到自己的移动设备，提高训练模型的准确性。 目前联邦学习技术收到业界广泛关注和深