隐私计算的法律规制 2022/1/30 隐私计算的法律规制 开放隐私计算2022-01-0719:54 搜索 以下文章来源于社会科学杂志，作者唐林圭 社会科学杂志 理论创新、学术争鸣、战略视野、现实思考 加小编微信邀请入群 社群：OpenMPC 微信公众号：开放隐私计算 隐私计算是在保障数据安全前提下，充分释放数据潜在价值和 效益的技术体系。通过对传统数据处理流程的更新和改良，隐私计 算有望消数据流动和隐私保护的根本性矛盾，但也可能导致算法 危害的倍增和异化。面对隐私计算风险，既有的信任维系、目的规 范、集体诉讼、缺陷弥补和强制脱敏等机制仍有延伸适用的空间， 但应注重机制间的联结和互动。契合"去中心化""分布式学习"等根 本特征，隐私计算的体系化法律规制可以从开发行为规范、外部审 查体系、动态协商框架、主体赋权制度和统一行业标准等五个维度 予以综合刻画。秉持的宗旨是，既要防止技术黑箱下的责任缺位， 也要充分兼顾数据生产力解放和经济发展的现实需求，避免过分打 压隐私计算的技术创新。 作者简介 唐林鞋，中国社会科学院法学研究所助理研究员 https:/mp.weixin.qq.com/s/k947ywoJOw-MXMitOwSA_Q 1/9 2022/1/30 隐私计算的法律规制 C 「本文刊载于《社会科学》2021年第12期 一、问题的提出 数据泄露泛滥成灾，推动隐私保护法律密集出台，但过度监管令可合法使用的有效数学资源日益稀缺。以“赋能科技”面目出现 所有权、管理权和使用权三权分离时，隐私度量、隐私泄露代价、隐私保护与隐私分析复杂性的可计算模型与公理化系统”。虽有厂 阔的应用前景，隐私计算的潜在风险也不可忽视，作为与其他人工智能技术深度融合的底层技术，隐私计算具备颠覆重构算法应用 流程的潜力。如果说，对数据共享击穿隐私保护底线的担忧尚属庸人自扰，那么，隐私计算引发转译偏误、放大数据瑕疵、加剧算 法歧视等近忧则不应被置若罔闻。 近年来，科技界、监管层和立法者均已意识到问题的紧迫性，发改委、网信办、工信部和能源局《关于推进“上云用数赋智”行 动培育新经济发展实施方案》《加快构建全国一体化大数据中心协同创新体系的指导意见》《全国一体化大数据中心协同创新体系 算力枢纽实施方案》等政策文件，与中国支付清算协会《多方安全计算金融应用评估规范》以及刚颁布不久的《数据安全法》《个 人信息保护法》等形成联动，规定了信息转委托、信息共同处理规则，明确了处理者的数据安全保护义务，但在规制隐私计算方面 尚存在火候不足、体系不全和应对不利的问题。 隐私计算的风险并非技术变革的产物，而是前沿科技打破传统算法应用中数据处理惯例的必然结果。就此而论，隐私计算的法 律规制需要深入反省既有保护机制的外部性溢出原因，厘清风险嵌入隐私计算的技术路径，与此同时，还应结合我国实情，向前检 视当前数据安全法律体系的制度余量，向后探索符合隐私计算技术发展规律的规制框架。 二、嵌入隐私计算的现实风险 成，分别是：（1)安全多方计算，即非信任主体在数据相互保密的前提下进行高效融合计算的技术；(2)联邦学习，即在不共享本地 数据前提下，实现机器学习模型多方协同训练的技术；（3)可信执行环境，即通过硬件形成隔离环境以兑现隐私保护承诺的技术。各 项技术在应用前端(代码编写)、中端(数据聚合)和后端(结果输出)均可能引致不同程度的系统性风险。 (一)转译偏差耗散风险 隐私计算的第一重风险，是加剧数据处理过程中的转译偏差。弱人工智能阶段，算法逻辑直接映射自然人逻辑，开发者的价值 观负载和内隐性偏见将导致自动化决策系统失误。例如，在代码编写环节，美国科罗拉多州公共福利系统的程序员曾将“无家可 归”不恰当地转译为“行气为生”，使得本该获得政府救济的流浪者们被算法拒之门外。隐私计算为算法自动化决策施加了诸多限制性 条件，使得开发者在前端编写过程中不得不心怀更多顾虑，转译过程的精确性更加无法保证。具体而言，安全多方计算通常以降低 数据清洗成本为起点，技术方有时会摒弃清洗成本较高的非结构化数据，采用生成对抗网络(GAN)生成的模拟数据；联邦学习中参 与“集训”的初始模型必须具备相当程度的适应性品格，才能在多个数据源间“往返流转”。为此，开发者在建模时一般不对模型目的 进行确定和统一；可信执行环境的硬件嵌套带来了兼容、衔接和协作方面的问题，也将加剧转译过程偏差和耗散。总之，程序员的 内心偏见将阻挠正确、中立的意思在代码中的表达。如何降低转译偏差，强化对技未性较高环节的监管，是隐私计算规则构建时需 要考虑的第一层问题。 (二)数据集偏误风险 https://mp.weixin.qq.com/s/k947ywoJOw-MXMItOwSA_Q 2/9 隐私计算的法律规制 2022/1/30 隐私计算的第二重风险，是运算结果不准确。隐私计算扩展了数据来源渠道，但问题也由此产生：首先，互联网等外部渠道数 据的来源合法性难以甄别；其次，共享模式下数据流转更加复杂和难以控制，数据使用边界无法限定；再次，各方数据问题可能相 互传染，激发数据安全的连带风险。本来，多个渠道的数据合并有望修正数据采集的天然瑕。最理想的情况是，数据集样本分布 过于离散、过于集中、漏误等问题，都能因不同数据集之间的取长补短得以弥补。例如，方言数据集的导入，可以提升语音识别软 件的正确率；全国违法数据的加权平均，可以减少警务预测系统对外地人的偏见。但是，隐私计算经常在相互渗透的行业间进行， 数据聚合过程反而可能会放大数据集的原本缺陷，使过去存在的问题更加严重。如何将数据资源的差异性考虑在内，建立科学的数 据筛选和容忍机制，是隐私计算规则构建时需要考虑的第二层问题。 (三)人为投毒对抗风险 隐私计算的第三重风险，是系统被破解或破坏。隐私计算具有“白盒特性”，各参与方都可以直接获取完整的全局模型参数，恶 意攻击者同样可以利用该特性伪装成诚实参与方窃取运算结果、扭曲模型或破解可信环境。隐私计算的安全研究尚处于起步阶段， 防御体系的升级速度长期落后于数据量的指数级增长。研究表明，即便有所防范，训练集中只要包含3%的中毒数据，模型误差将 %% 算规则构建时需要考虑的第三层问题。 (四）歧视的群体化风险 隐私计算的第四重风险，是算法歧视从个体歧视转变为群体歧视。“个人信息具有共享属性，具有公共利益价值。”数据集偏差 或数据缺陷可能导致算法歧视，在隐私计算中，不同来源数据间的强搭和错配可能对联合数据造成冲击与扰乱，造成歧视规模性放 大。除了数据投毒等极端手段，某些参与方的数据输入因数据梯度同其他参与方相差过大，也可能间接导致模型被“污染”，输出歧 他行业数据被共同用于训练升职评价系统时，同身份紧密捆绑的群体歧视将从数据向模型蔓延。如何减少隐私计算中的算法歧视， 是隐私计算规则构建时需要考虑的第四层问题。 （五）应用逆向淘汰风险 隐私计算的第五重风险，是扰乱智能应用市场的良好秩序。在隐私计算应用大规模部署前，面对相似或相异的受众，传统的智 能应用之间存在竞争关系，只有安全稳定、受消费者信赖的智能应用才能获得更高市场份额，不重视隐私保护的智能应用将面临被 淘汰的命运，因严重违法违规收集使用个人信息而被强制下架的"滴滴出行"即为一典例。隐私计算的大规模部署，极有可能导致数 据处理模式趋同。对规整性要求不高、通信成本更低的智能应用，或将随着隐私计算的跑马圈地，逆向淘汰相对保守的传统智能应 用。如何引导科技向善、避免智能应用“柠檬市场化”，是隐私计算规则构建时需要考虑的第五层问题。 三、隐私计算的既有规制手段及其局限 在法治社会中，有风险的存在就定然有规制的需求。面对隐私计算风险，世界各国的立法者制定的一系列监测、识别、防范与 救济的措施，主要包括信任维系、目标规范、集体诉讼、缺陷弥补和强制脱敏等机制，但这些机制尚未联结成足以应对隐私计算风 险的动态规范。 (一)信任维系机制失焦 https://mp.weixin.qq.com/s/k947ywoJOw-MXMitOwSA_Q 6/ 隐私计算的法律规制 2022/1/30 受商业秘密的保护，监管者难以强制技术方公开披露技术细节。公共管理部门的隐私计算方案更是关涉公共安全，将内部技术细节 计算中的匮乏，本就是保障隐私安全的策略和手段，如此一来，基于算法可解释性的信任维持机制在隐私计算中必将面临重塑。 (二)目的规范机制失调 知情同意框架，是数据处理活动的基本保护范式，因知情而同意或不同意，共同勾勒出数据主体在数据处理活动中的能动性边 界，使数据处理活动的目的被锚定在合理的区间之内。在数据处理活动中，用户同意的知情前提常因各种原因被削弱，导致目的规 范机制无法发挥作用。例如，用户协议可能篇幅过长，即便语言平实易懂，用户也不可能潜心阅读完毕。由于相当多的意外情况在 日后的数据处理活动中才可能发生，数据主体在对一系列关切自身重大利益的事项进行“一揽子同意”时，通常无法准确评估合同的 每一条款可能使自身面临的风险，难谓表意自由。就隐私计算而论，数据主体可能无法想象，充许数据处理者与其他受托方或第三 方共享用户数据，将带来巨大的数据保护空白；数据主体也可能无法预料，出于实现公共利益的善心，适当允许处理者扩大数据采 主体也对此表示同意，但不能因此完全认可此间法律关系的产生、变更或消灭的合理性，毕竟，数据主体根本无力深究长篇累牌用 户协议中可能存在的“雷区”，更无法从技术层面知晓自己的数据何时被调取或使用；意思表示真实性和有效性大打折扣，“同 意"与“事实上知情"存在断层。 (三)集体诉讼机制失效 隐私计算的涉众基数，远大于普通算法应用的受众基数。一般