(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111447806.1 (22)申请日 2021.11.30 (71)申请人 国电南瑞科技股份有限公司 地址 211106 江苏省南京市江宁区诚信大 道19号 (72)发明人 沈嘉灵　李佳阳　陈佳佳　闫妮　 张瑞智　王宇冬　陈子韵　徐丽燕　 李昊　季学纯　张珂珩　劳莹莹　 (74)专利代理 机构 南京纵横知识产权代理有限 公司 32224 代理人 董建林 (51)Int.Cl. G06F 9/445(2018.01) G06F 16/176(2019.01) G06N 20/00(2019.01)G06F 9/455(2006.01) G06Q 10/06(2012.01) G06Q 50/06(2012.01) (54)发明名称 一种面向电网调控业务的AI模型服务化共 享方法及系统 (57)摘要 本发明公开了一种面向电网调控业务的AI 模型服务化共享方法及系统， 其包括： 获取AI模 型仓库， 所述AI模型仓库包括多个模型集， 每个 模型集中存储有多个相同类型的AI模型； 以AI模 型仓库中的模型集为粒度在集群系统中创建AI 模型的模型在线服务； 通过启动模 型在线服务将 AI模型仓库中的AI模型保存到集群系统中； 根据 外部请求从集群系统中加载AI模型。 本发明采用 批量存取AI模型方式， 减少了网络传输频率， 有 效提高了存取效率， 基于Kubernetes提供AI模型 服务一体化发布， 实现快速平滑升级和扩容， 提 高硬件资源利用率， 方便快捷、 安全可靠、 低成 本， 构建应用AI模型成果在调控系统 内部共建共 享的生态 环境。 权利要求书2页 说明书10页 附图2页 CN 114153525 A 2022.03.08 CN 114153525 A 1.一种面向电网调控业 务的AI模型服 务化共享方法， 其特 征在于， 包括如下步骤： 获取AI模型仓库， 所述AI模型仓库包括多个模型集， 每个模型集中存储有多个相同类 型的AI模型； 以AI模型仓库中的模型集 为粒度在集群系统中创建AI模型的模型在线服 务； 通过启动模型在线服 务将AI模型仓库中的AI模型保存到集群系统中； 根据外部请求从集群系统中加载AI模型。 2.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， AI模型仓库中的每个模型集配置有唯一的模型集ID， 同一个模型集包括一个或多个模 型集版本， 每个模型版本配置有唯一的模型集版本ID； AI模型仓库中的每个AI模型配置有 唯一的模型UID。 3.根据权利要求2所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， AI模型仓库中设置有模 型集信息表、 模 型集版本信息表和A I模型信息表， 均为二 维表形 式； 模型集信息表包括模 型集ID、 模 型集名称、 模型类型、 模型来源； 模型集版本信息表包括 模型集ID、 模 型集版本ID、 更新时间； AI模 型信息表包括模 型UID、 模型集ID、 模型集版本ID、 更新时间。 4.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， AI模型仓库的构建方法为： 通过电网调控业 务训练获取多个AI模型， 并将获取到的AI模型以内存块形式 暂存； 利用校验算法计算内存块的特 征值， 记为第一特 征值； 将内存块与第一特 征值共同发送给服 务器的文件管理服 务； 文件管理服 务利用校验算法再次计算内存块的特 征值， 记为第二特 征值； 判断第一特征值与第二特征值是否相同， 如果相同， 从内存块中获取AI模型， 并将AI模 型存储到AI模型仓库对应的模型集中。 5.根据权利要求1或2所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征 在于， 模型在线服 务的创建方法包括： 获取服务名称、 实例数、 CPU、 GPU和内存； 根据模型集ID、 模型集版本ID和服务名称， 设置模型在线服务的集群标签为 “app=服务 名称‑集群ID”； 调用Kubernetes  API创建Depl oyment， Depl oyment的标签label 为集群标签； 通过Deployment创建Rep licaSet， 并利用Rep licaSet在系统后台创建与实例数相等个 数的Pod； 调用Kubernetes  API创建Service， 并将Service的selector和Deployment的label设 置一致； 调用Kubernetes  API创建I ngress， 并将Ingress与Service关联起 来。 6.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， 通过启动模型在线服 务将AI模型仓库中的AI模型保存到集群系统中的方法为： 根据模型集 ID、 模型集版本ID从AI模型仓库中获取对应的模型UID列表； 根据模型UID列表， 通过文件管理服务从AI模型仓库中批量获取AI模型， 并将获取到的 AI模型以内存块形式 暂存；权　利　要　求　书 1/2 页 2 CN 114153525 A 2利用校验算法计算内存块的特 征值， 记为第一特 征值； 通过文件管理服 务将第一特 征值与内存块 一起发送至集群系统； 集群系统利用校验算法再次计算内存块的特 征值， 记为第二特 征值； 判断第一特 征值与第二特 征值是否相同， 如果相同， 将该内存块保存至集群系统。 7.根据权利要求5所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， 在集群系统中， 通过修改Ingress对象的backend配置信息进行模型在线服务的蓝绿集 群部署升级。 8. 根据权利要求5所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， 在集群系统中， 调用Kubernetes  API修改Deployment的replicas参数， 从而增减Pod的 数量； 调用Kubernetes  API修改Deployment的requests和li mits参数， 从而 修改每个Pod的 CPU、 GPU和内存。 9.根据权利要求5所述的一种面向电网调控业务的AI模型服务化共享方法， 其特征在 于， 根据外 部请求从集群系统中加载AI模型的方法包括： 通过Ingress获取集群外部URL格式的http请求， 并根据预先设置的规则列表对接收到 的http请求进行规则匹配； 规则匹配成功后， I ngress根据Service名称和端口号将ht tp请求转发给Service； Service根据selector将ht tp请求代理到对应的Depl oyment的Pod上； 模型在线服务解析http请求， 根据解析出的模型UID使用各AI算法框架相应的模型加 载方式加载集群系统中的AI模型。 10.一种面向电网调控业 务的AI模型服 务化共享系统， 其特 征在于， 包括： AI模型仓库， 用于以模型集的形式存 储AI模型， 每 个模型集存 储相同类型的AI模型； 模型管理模块， 用于批量存取AI模型， 更新AI模型， 管理AI模型仓库中的模型集信息和 模型集版本； 模型在线服务部署模块， 用于以AI模型仓库中的模型集为粒度在集群系统中部署AI模 型的模型在线服 务； 服务启动模块， 通过启动模型在线服 务将AI模型仓库中的AI模型保存到集群系统中； 模型加载模块， 根据外 部请求从集群系统中加载AI模型。权　利　要　求　书 2/2 页 3 CN 114153525 A 3