人工智能治理白皮书 中国信息通信研究院 中国人工智能产业发展联盟 2020年9月 版权声明 本白皮书版权属于中国信息通信研究院和中国人工智 能产业发展联盟，并受法律保护。转载、摘编或利用其它方 式使用本白皮书文字或者观点的，应注明“来源：中国信息 通信研究院和中国人工智能产业发展联盟”。违反上述声明 者，编者将追究其相关法律责任。 前 言 当前，全球科技革命和产业变革孕育兴起，以深度学习、跨界融 合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取 得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大 提升人类生产生活品质的同时，新一代人工智能具有的通用目的性、 算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等 不同维度的风险和挑战，从而对治理提出了专业化、多元化、敏捷化、 全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国 际社会广泛关注和研究的方向。 人工智能治理是一项复杂的系统工程，既需要明确治理原则、目 标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐 步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与 有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理 机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理 手段，推动人工智能健康有序发展。 人工智能的治理体系需要“柔性的伦理”和“硬性的法律”的共 同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技 术层面的开发和应用提供价值判断标准，约束和指导各方对人工智能 进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试 图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建 人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防 控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带 来的诸多风险。整体来看，人工智能相关立法正从慌乱走向理性，从 源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾 驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率 先突破，积累了一定的监管经验。 本白皮书从人工智能第三次浪潮开辟的治理新需要出发，结合当 前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介 绍了两项主要的治理举措，即以伦理为导向的社会约束体系和以法律 为保障的风险防控体系，最后对人工智能治理的未来发展方向进行了 展望，期待为社会各方提供有益参考。 目 录 一、人工智能开辟治理新需要.................................................................................... 1 （一）人工智能时代的兴起 .............................................................................. 1 1. 人工智能驱动新一轮科技革命 ....................................................... 2 2. 人工智能打造经济发展新引擎 ....................................................... 2 3. 人工智能显著提升社会生活质量 ................................................... 3 （二）人工智能的技术特性 .............................................................................. 4 1. 通用目的性，导致风险更为普遍 ................................................... 4 2. 算法黑箱性，导致过程更难解释 ................................................... 5 3. 数据依赖性，导致结果更不可控 ................................................... 5 （三）人工智能引发不同维度的风险 .............................................................. 6 1. 社会维度：影响社会稳定 ............................................................... 6 2. 企业维度：加大合规难度 ............................................................... 7 3. 个人维度：侵犯基本权益 ............................................................... 9 （四）人工智能治理的新挑战 ........................................................................ 10 1. 治理专业化的需要 ......................................................................... 11 2. 治理多元化的需要 ......................................................................... 11 3. 治理敏捷化的需要 ......................................................................... 12 4. 治理全球化的需要 ......................................................................... 12 二、全球构建人工智能治理机制.............................................................................. 14 （一）治理目标：坚持科技造福人类，平衡创新发展与有效治理 ............ 14 1. 不断释放人工智能带来的技术红利和价值 ................................. 15 2. 精准防范并应对人工智能可能带来的风险 ................................. 16 （二）治理模式：打造多元主体参与、协同共治的模式 ............................ 17 1. 国家政府是执行治理规则的核心主体 ......................................... 17 2. 政府间国际组织是引导治理方向的重要力量 ............................. 20 3. 行业组织是协调多方治理的积极推动者 ..................................... 20 4. 企业是践行行业自律自治的中坚力量 ......................................... 22 5. 公众是监督治理效果的重要参与者 ............................................. 23 （三）治理手段：实施多层次、多样化的治理举措 .................................... 23 1. 伦理约束 ......................................................................................... 24 2. 技术应对 ......................................................................................... 25 3. 规范立法 ......................................................................................... 25 三、以伦理为导向的社会规范体系.......................................................................... 27 （一）国际层面：开始制定全球性伦理倡议 ................................................ 28 （二）国家层面：各国伦理关注点各有侧重 ................................................ 31 1. 美国借助伦理规范保障国家安全 ................................................. 31 2. 欧盟推广可信人工智能伦理框架 ................................................. 32 3. 德国率先提出自动驾驶伦理准则 ................................................. 33 4. 中国倡导发展负责任的人工智能 ................................................. 33 （三）企业层面：践行伦理的自我规制之道 ................................................ 37 1. 制定企业伦理原则 ......................................................................... 37 2. 开展内部机构建设 ......................................................................... 38 3. 构建企业实践机制 ......................................................................... 39 （四）总结：人工智能伦理规制从伦理原则走向伦理体系 ........................ 43 1. 第一阶段—已形成共识性伦理原则 ................