可用可靠可信 人工智能治理与可持续发展实践白皮书 人工智能治理与 可持续发展实践 白皮书 可用 可靠 可信 Alibaba Group CAICT中国信通院 阿里巴巴集团 面向可持续发展的人工智能治理体系 协同共治 办力共守清朗净网 学联动人才培养 公众互动共商共建 #合行业依标自律 合规落地 支撑监管 社会公 长 数据安全 治理组织与责任 管理体系 技术体系 个人信息隐私保护与处理合规 抗风险技术能力 发展生产力 保护主体权益 治理目标 可靠可控 lity to 鲁棒 SIS 机制与决策 顶层设计 可用 支术方向 急私风险 风险评估及改进 日常运营 可治理制度与能力 空可信技术应用规范 0价值导向 人人受益 草法备案 ibleR&D 容错潮源机制 测试与评估机制 责任担当 持续动态监测机制 开放共享 010203 治理实践 PRACTICE 发展应用 助力可持续 调留连养：外卖调度系统 热议话题 讨论社会 棒性 别：提升人工智能的 应紧：拒 ：防止虚假信息 I人工智能治理与可持续发展实践白皮书 前言FOREWORD 当前，人工智能技术蓬勃发展，广泛赋能千行百业，给人类生产生活带来了深刻变 化。人工智能在促进社会发展的同时，也存在着风险和挑战。习近平总书记曾多次 强调，“要确保人工智能安全、可靠、可控”。开展人工智能治理，发展负责任和 可信的人工智能，助力可持续发展愿景实现，正在成为共识。 全球已经形成了大量的人工智能治理与发展原则，下一步的工作重点，是将抽象的 原则落实到实践中。企业作为人工智能技术研发和应用的重要力量，函需探索一套 适合自身业务发展的人工智能治理实践体系，将各项治理要求贯彻到人工智能的全 3 生命周期，以有效治理为人工智能红利的释放奠定基础，从而加速推动可持续发展 息景的实现。 本白皮书全面总结了阿里巴巴在人工智能治理与可持续发展领域的实践，重点针对 当前人工智能应用中的热点问题，从数据、技术、管理及多元协同等方面系统性介 绍了我们的实践思路和方法，同时辅以若干专题进行阐释，期待为社会各界提供有 益参考。 未来我们将持续跟踪相关领域进展，不余遗力地推动人工智能健康发展。由于人工 智能治理是一项复杂的系统性工程，我们的认识还有待进一步深化，白皮书中存在 的不足之处，欢迎大家批评指正。 4 「人工智能治理与可持续发展实践白皮书 人工智能治理与可持续发展实践 白皮书编写组 指导委员会 郑俊芳‧阿里巴巴集团首席风险官兼 程立 阿里巴巴集团首席技术官兼 首席客户官 科技伦理治理委员会主席 魏亮 中国信息通信研究院副院长 厂专家委员会 钱磊 阿里巴巴集团安全副总裁 魏凯中国信息通信研究院云计算与大数据研究所副所长 朱红儒阿里巴巴标准化业务副总裁 黄庆明中国科学院大学计算机科学与技术学院副院长 屠剑威阿里巴巴集团法务副总裁 吴飞 浙江大学人工智能研究所所长 安筱鹏阿里研究院副院长 姚玉峰浙江大学医学院附属邵逸夫医院眼科主任 编写组组长 薛晖 阿里巴巴人工智能治理与可持续发展研究中心主任兼科技伦理治理委员会执行主席 石霖 中国信息通信研究院云计算与大数据研究所内容科技部副主任 编写组副组长 张荣 阿里巴巴集团算法风险治理团队负责人 刘硕 中国信息通信研究院云计算与大数据研究所内容科技部副主任 朱冉 阿里巴巴集团内容安全副总裁 周斌琦 阿里巴巴集团风险治理与生态合作部总经理 袁媛 阿里研究院数据经济研究中心主任 5 AlibabaGroup I编写单位 AlibabaGroup CAICT中国信通院 阿里巴巴集团 编写组主要成员 彭骏涛 傅宏宇 刘翔宇 陈岳峰 杨易侗 段雨泽 安政 呼娜英 孙小童 鸣谢 顾伟 孙勇 马宇诗 杜旭阳 朱琳洁 王彦伟 杜东为 田喜清 眭亚楠 王竟亦 黄正行 张佳- 秦鹏达 许皓天 顾斐 洪澄 季婷 刘大鹏 李进锋 杨颖一 庄涛 曹彬彬 廖剑 阮莎莎 黄龙涛 张东杰 金炫 赵伟 赵平 张冰 张怡远 高婷 王志斌 陈磊 李昊 朱丛 何万青 杨定裕 张静 姜歆 何慧亮 周燕 周喆 孙思怡 杨文波 陈德品 陈克寒 俞林峰 刘源 张波悦 ■关于我们 阿里巴巴人工智能治理与可持续发展研究中心（AAIG）是阿里巴巴集团 旗下的人工智能顶级研发团队，致力于利用AI技术解决安全风险问题 并推动AI技术更加可用、可靠和可信。团队成员在计算机视觉、自然 语言理解、数据挖掘与网络安全等领域的国际顶级会议和期刊上发表论 文100多篇，获得国际国内专利授权60余项，申请中专利200多项， 所研发的人工智能产品涵盖内容安全、业务风控、数字安防、数据安全 与算法安全等多个领域，为集团在全球的千万商家和十亿消费者提供更 好的安全和体验。 ■联系我们 aaig@list.alibaba-inc.com 6 人工智能治理与可持续发展实践白皮书！ 目录 零.热议中的人工智能 0.1人工智能的热点问题， 0.2人工智能的风险初步探析 1.数据不完备和滥用风险突出. 14 2.人工智能算法存在固有缺陷. 3.企业人工智能管理体系不完善 16 壹：人工智能治理的愿景和框架 1.1人工智能治理的愿景：可持续发展 19 1.治理应以发展生产力、保护正当主体权益为目标 19 2.治理应以人人受益、责任担当、开放共享为价值导向 1.2构建可持续发展人工智能治理框架 21 1.保障数据安全是人工智能治理的前提 2.技术体系应以可用、可靠、可信为原则 3.面向可持续发展的人工智能治理框架. 贰：提升数据安全能力，保障人工智能健康发展 2.1构建全生命周期的数据安全能力 26 2.2安全规范的数据流通加速释放数据价值 28 7 Alibaba Group 2.3隐私增强计算促进数据安全和数据流通协同发展 专题：落实法律法规完善用户隐私保护， 30 叁参.构建面向可持续发展的人工智能技术体系 3.1提升人工智能抗风险的技术能力. .33 1.鲁棒性增强技术及实践 .34 2.公平性保障技术及实践.. .35 3.可解释增强技术及实践. 36 3.2构建全生命周期的可信技术应用规范， 37 1.人工智能产品不同阶段的风险挑战 37 2.构建可信人工智能研发管理机制. 38 专题：筑牢深度合成全链条治理基石 .39 1.深度合成基本概念及治理要求， 2.深度合成需多方共同参与治理 39 3.阿里针对深度合成的治理实践 40 专题：打造安全可控的基础模型 41 1.开源预训练大模型存在多方面安全风险 2.阿里针对基础模型研究的安全实践 42 专题：构造多方受益的信息流推荐系统. .45 1.信息流推荐存在“信息茧房”和“马太效应”两大问题. .45 2.淘宝针对电商场景下信息流推荐算法的治理实践 专题：维护电商平台信息真实和竞争公平 48 8 人工智能治理与可持续发展实践白皮书！ 1.电商场景下反作整的核心问题和挑战 2.淘宝针对电商场景下作弊行为的治理实践 49 专题：加强儿童类商品内容治理，守护未成年人健康成长 52 1.儿童类商品内容治理日益重要 52 2.淘宝针对儿童类商品内容治理的制度规范实践 .52 3.淘宝针对儿童类商品内容治理的技术能力实践 .53 肆．构建全方位的人工智能管理体系 4.1革新治理理念：兼顾风险治理与发展创新， 59 4.2健全治理制度：建立合规机制与规范行为 59 4.3完善治理组织：明确责任归属与岗位分工 62 1.构建担纲顶层设计的领导小组 .62 2.构建横向部门联动的管理小组 .. 63 3.构建专职日常运营的治理团队 63 4.4丰富治理能力：结合风险防范与前沿探索 64 1.完备风险识别防范能力 2.提升前沿技术探索能力 65 3.重视科技伦理研究能力 66 专题：如何构建行之有效的算法透明 1.打开算法黑箱需要构建算法透明机制 .67 2.实现算法透明的具体路径 3.阿里构建算法透明的实践方案 . 68 9