z 中国信息通信研究院政策与经济研究所 中国科学院计算技术研究所智能算法安全重点实验室 2023年11月大模型治理蓝皮报告 （2023年）——从规则走向实践 版权声明 本报告版权属于中国信息通信研究院 、中国科学院 ，并 受法律保护 。转载、摘编或利用其它方式使用本报告文字或 者观点的 ，应注明“来源：中国信息通信研究院 、中国科学 院”。违反上述声明者，编者将追究其相关法律责任。 前言 近一年来，以 ChatGPT 为代表的大模型技术引发通用人工智能 新一轮发展热潮 ，在带动大规模产业升级 、劳动力转移 、产品的分配 机制等方面均带来深刻变革 ，成为改变世界竞争格局的重要力量。 与 此同时，围绕人工智能治理的议题探讨显著增多 ，全球人工智能治理 体系加速构建 。党中央国务院高度重视人工智能治理工作， 作出一系 列重要部署 。习近平总书记强调 ，要共同做好风险防范 ，形成具有广 泛共识的人工智能治理框架和标准规范 ，不断提升人工智能技术的安 全性、可靠性、可控性、公平性。寻找大模型治理的准确定位 ，构建 适应技术发展趋势的治理体系愈加重要且迫切。 面对大模型带来的新问题新挑战，传统监管模式面临着 AI自主 演化控制难 、迭代快速跟进难 、黑箱遮蔽追责难等问题 ，一劳永逸的 事前监管模式已经难以应对不断推陈出新的人工智能发展需求。 从治 理框架来看 ，敏捷治理成为回应大模型技术快速迭代的重要治理模式， 软硬法协调、多主体协同的治理需求更为突出。构建高质量数据集 、 创新知识产权制度 、探索价值对齐实现方式 、维护信息内容安全等成 为各方关注的热点问题 。美国、欧盟、英国等主要国家和地区加紧推 进人工智能治理布局 ，共同寻求具有共识和互操作性的治理规则。 我 国围绕人工智能发展 、安全、治理三方面提出 《全球人工智能治理倡 议》，通过算法备案 、评估评测 、事后溯源检测等方式 ，推动人工智 能治理从规则走向实践 ，为全球提供人工智能治理中国方案。 希望研 究成果为社会各界进一步参与大模型治理实践提供有益参考。 目录 一、大模型治理的重要性紧迫性凸显 ....................................................................... 1 （一）大模型技术浪潮兴起 ............................................................................... 1 （二）大模型引领数字化变革 ........................................................................... 3 （三）大模型带来的典型风险 ........................................................................... 5 二、技术变革下大模型治理框架日渐明朗 ............................................................. 11 （一）治理模式：敏捷治理成为国际较为通行的治理方案 ......................... 11 （二）治理主体：激励多元主体协同治理成为全球共识 ............................. 14 （三）治理机制：软硬兼施推进大模型治理 ................................................. 18 三、聚焦大模型治理核心议题规则 ......................................................................... 22 （一）数据治理规则 ......................................................................................... 23 （二）知识产权保护 ......................................................................................... 32 （三）伦理问题治理 ......................................................................................... 36 （四）信息内容治理 ......................................................................................... 40 四、把握全球大模型治理最新动态趋势 ................................................................. 42 （一）美国从松散碎片式治理逐步趋向体系化治理 ..................................... 42 （二）欧盟继续发挥人工智能治理领域布鲁塞尔效应 ................................. 45 （三）英国力图以促进创新的监管方法引领全球治理 ................................. 49 （四）国际组织在大模型治理国际合作中各显其能 ..................................... 52 五、探索我国大模型治理的主要落地工具 ............................................................. 55 （一）事前备案 ................................................................................................. 55 （二）事中全流程评估 ..................................................................................... 57 （三）事后溯源检测 ......................................................................................... 60 六、完善我国大模型治理体系的思路建议 ........................................................... 63 （一）确立促进创新的人工智能敏捷治理理念 ............................................. 64 （二）聚焦人工智能场景应用细化制度方案 ................................................. 64 （三）立足当前治理实践创新人工智能治理工具 ......................................... 65 （四）激励企业积极管控风险以推动平台合规 ............................................. 66 （五）促进全球人工智能合作治理体系构建 ................................................. 67 大模型治理蓝皮书—从规则走向实践（2023 年） 1一、大模型治理的重要性紧迫性凸显 （一）大模型技术浪潮兴起 当前，世界人工智能领域科技创新异常活跃， 日益成为改变世界 竞争格局的重要力量。一批里程碑意义的前沿成果陆续突破， 以 ChatGPT 为代表的大模型技术引发通用人工智能新一轮发展热潮。 1.对大模型的基本认识 大模型（LLM，LargeLanguageModel）指的是具有超大参数规 模，建立在多头自注意力机制 Transformer 架构之上，以深度神经网 络为基础，用海量文本数据预训练而成的语言模型。 以ChatGPT 为 代表的大模型能够模拟人类的创造性思维， 生成具有一定逻辑性和连 贯性的语言文本、图像、音频等内容。 大模型基于大数据、大算力 、 多模态的技术优势，实现从感知世界、理解世界向创造世界的跃迁 ， 推动人类社会加速迈向人机共生的智能社会阶段。 大模型体现出三方面技术趋势：一是从决策式 AI到生成式 AI。 决策式AI主要是通过分类回归对数据进行分析，主要应用于图像识 别、推荐系统 、决策智能体等领域 。生成式AI借助Transformer 架构 等，具有全局表征能力强 、高度并行性 、通用性强 、可扩展性强等优 势，主要应用于内容创作 、科研、人机交互等领域 ，实现了从简单感 知到内容创造的跃迁 。二是从单模态模型到多模态模型 。多模态是指 通过处理和关联来自多种模态的多源异构数据 ，挖掘分析信息 、提高 模型能力的学习方法 。典型任务是图像 /视频/语言间的跨模态预训练、 跨模态定位等，如给定文本生成一段对应的声音、图像 /视频与文本 大模型治理蓝皮书—从规则走向实践（2023 年） 2的相互检索或生成等 。三是从亿级到千亿 、万亿级参数的预训练模型 。 大模型指的正是模型参数规模庞大， 大模型参数规模从亿级发展到百 亿、千亿级别 ，并向着更高规模的参数探索 。例如，GP