ICS 35.240 CCS L67 YD 中华人民共和国通信行业标准 YD/T [×××××] —[××××] 移动智能终端可信人工智能安全指南 Security guideline of trustworthy artificial intelligence in mobile intelligent terminal （报批稿） （本稿完成日期： 2022年3月14日） [××××] -[××]-[××]发布 [××××] -[××]-[××]实施 中华人民共和国工业和信息化部 发 布 YD/T ×××××—×××× I 目　　次 前言 .................................................................................. II 引言 ................................................................................. III 1 范围 ................................................................................ 1 2 规范性引用文件 ...................................................................... 1 3 术语、定义和缩略语 .................................................................. 1 3.1 术语和定义 ...................................................................... 1 3.2 缩略语 .......................................................................... 2 4 可信人工智能概述 .................................................................... 2 4.1 基本原则 ........................................................................ 2 4.2 安全原则 ........................................................................ 3 5 可信人工智能安全能力 ................................................................ 3 5.1 可控性 .......................................................................... 3 5.2 鲁棒性 .......................................................................... 3 5.3 安全性 .......................................................................... 4 5.4 个人信息保护能力 ................................................................ 5 5.5 数据治理能力 .................................................................... 5 5.6 可追溯性 ........................................................................ 6 5.7 用户知情能力 .................................................................... 6 6 安全能力适用场景 .................................................................... 7 附录A（资料性附录） AI系统典型应用场景说明 ........................................... 8 A.1 概述 ............................................................................ 8 A.2 各场景介绍 ...................................................................... 8 附录B（资料性附录） 安全能力适用场景推荐 ............................................ 11 附录C（资料性附录） AI系统常见个人信息示例 .......................................... 13 参考文献 .............................................................................. 14 YD/T ×××××—×××× 前　　言 本文件按照 GB/T 1.1—2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。 本文件由中国通信标准化协会提出并归口。 本文件起草单位： 中国信息通信研究院、华为技术有限公司、北京快手科技有限公司、郑州信大 捷安信息技术股份有限公司、蚂蚁科技集团股份有限公司、北京奇虎科技有限公司、阿里巴巴（北京） 软件服务有限公司 。 本文件主要起草人：李煜光、路晔绵、徐晓娜、魏凡星、国炜、李小娟、李晓翠、李实、落红卫、 刘献伦、康亮、刘为华、彭晋、林冠辰、姚一楠、彭俊涛。 YD/T ×××××—×××× III YD/T ×××××—×××× 1 1　范围 本文件给出了移动智能终端中实现可信人工智能（正文中简称 AI）系统的安全指导，适用于各种 制式的移动智能终端中实现的 AI系统。 本文件为移动智能终端 AI系统的研究开发者、设计制造者、部署应用者和用户提供安全指导，以 判断该 AI系统是否满足可信 AI的基本安全能力 。 2　规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文 件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适 用于本文件。 GB/T 35273 信息安全技术 个人信息安全规范 GB/T 5271.28-2001 信息技术 词汇 第28部分：人工智能 基本概念与专家系统 YD/T 2407-2021 移动智能终端安全能力技术要求 3　术语、定义和缩略语 3.1　术语和定义 下列术语和定义适用于本文件。 3.1.1　 移动智能终端 mobile smart terminal 能够接入移动通信网，具有能够提供应用软件开发接口的操作系统，并具有安装、加载和运行应 用软件能力的移动终端。 [来源：YD/T 2407-2021 ，3.1.1] 3.1.2　 人工智能 artificial intelligence 表现出于人类智能（如推理和学习）相关的各种功能的功能单元和能力。 [来源：GB/T 5271.28-2001 ，28.01.02] 3.1.3　 人工智能系统 artificial intelligence system 人工智能系统指在计算机系统中实现人工智能能力的软件、硬件加速器、算法模型与数据的集合。 移动智能终端可信人工智能安全指南 YD/T ×××××—×××× 3.2　缩略语 下列缩略语适用于本文件。 AI：人工智能（ Artificial Intelligence ） BI：商业智能（ Business Intelligence ） CV：计算机视觉（ Computer Vision） DSMM：数据安全能力成熟度模型（ Data Security Capability Maturity Model） NLP：自然语言处理（ Natural Language Processing ） 4　可信人工智能概述 4.1　基本原则 4.1.1　概述 可信计算是计算机领域的一个概念，主要强调的是计算机系统和其处理过程的可预测性、可验证 性。AI系统中可信 AI的概念与可信计算相似，主要强调的是 AI系统安全有序发展的基本要求。目前国 际上对于可信 AI的基本概念定义主要包括七点[1]，分别为人类自主权，技术鲁棒性与安全性，隐