(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210419843.X (22)申请日 2022.04.20 (71)申请人 华讯智慧科技有限公司 地址 315000 浙江省宁波市高新区翔云北 路99号7号楼 9-3-4 (72)发明人 于运涛　 (74)专利代理 机构 宁波高新区核心力专利代理 事务所(普通 合伙) 33273 专利代理师 蔡菡华 (51)Int.Cl. G06F 16/2458(2019.01) G06F 16/2455(2019.01) G06K 9/62(2022.01) (54)发明名称 一种AI行为分析 预警系统 (57)摘要 本发明涉及预警系统技术领域， 具体为一种 AI行为分析预警系统， 包括信号接收模块、 信息 分析模块、 信息缓存模块、 数据库模块、 信息采集 卡模块、 对比模块、 评价模块、 预警模块和标记模 块。 本发明通过对AI行为 分析系统中提供的分析 数据进行分类整合， 并根据社会危害性将分析数 据划分等级， 并根据等级来标识AI行为 分析系统 中的AI数据， 从而有效的与AI行为分析系统形 成 互动， 标识具备一定社会危害性的AI行为， 从而 高效的进行预防工作； 本发明通过评价模块评价 对比模块中的结果数据， 并设立相似度标准， 达 到相似度标准的结果数据转化为预 警数据， 通过 相似度标准的设立， 可以将AI行为与互联网中的 数据库直接对比， 从而快速的标识异常的行为数 据。 权利要求书1页 说明书3页 附图1页 CN 114741428 A 2022.07.12 CN 114741428 A 1.一种AI行为分析预警系统， 其特征在于： 包括信号接收模块、 信息分析模块、 信息缓 存模块、 数据库模块、 信息采集卡模块、 对比模块、 评价模块、 预警模块、 分级模块和标记模 块； 信号接收模块用于 接收AI行为分析系统的行为分析 数据； 信息分析模块用于将信号接收模块所接收的分析 数据进行分类； 信息缓存 模块用于将信息分析模块中已经分类好的数据进行缓存； 数据库模块用于储存互联网AI行为分析数据库， 并根据数据种类进行分为若干个不同 类型的数据集 合； 信息采集卡模块用于接收信 息缓存模块的分类分析数据， 并将各个种类的分析数据转 化为不同种类的采集数据； 对比模块用于接收信 息采集卡模块传递的采集数据， 并将采集数据与 数据库模块中不 同类型的数据集 合进行对比， 并将对比结果 转化为结果数据； 评价模块用于评价对比模块中的结果数据， 并设立相似度标准， 达到相似度标准的结 果数据转 化为预警数据； 预警模块用于接收评价模块的预警数据， 并将预警数据转化为带标识的AI行为分析数 据； 分级模块用于将预警模块内的带标识 的AI行为分析数据根据社会危害性分为不同等 级数据； 标记模块根据分级模块中的不同等级数据标记AI行为分析系统中出现在AI行为分析 系统内的AI行为分析 数据。 2.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 信 息分析模块在对分 析数据进行分类时， 按照人机交互、 识别分析、 增强仿真、 决策辅助和形成意识类别进行分 类。 3.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 数据库模块对互联网 AI行为分析数据库进行分类时， 按照人机交互、 识别分析、 增强仿真、 决策辅助和形成意识 类别进行分类。 4.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 对比模块在进行对比 采集卡模块的采集数据与数据库模块的分类数据时， 根据类别进行对比。 5.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 评价模块在 设立相似 度标准时， 应根据信息分析模块的分类设立 不同标准。 6.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 预警模块中带标识的 AI行为分析 数据应使AI行为分析 可识别。 7.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 分级模块在 分等级时 应根据信息分析模块中的信息类别进行 逐一分级。 8.根据权利要求1所述的一种AI行为分析预警系统， 其特征在于： 标记模块在标记时， 不同等级应使用不同的标记方法进行区分。权　利　要　求　书 1/1 页 2 CN 114741428 A 2一种AI行为分析预警系统 技术领域 [0001]本发明涉及预警系统技 术领域， 具体为 一种AI行为分析 预警系统。 背景技术 [0002]AI即人工智能， 人工智能是计算机科学的一个分支， 它企图了解智能的实质， 并生 产出一种新的能以人类智能相似的方式做出反应的智能机器， 该领域的研究包括机器人、 语言识别、 图像识别、 自然语言处理和专家系统等， 随着科学的逐渐进步， 人工智能离我们 的生活越来越近， 例如汽车的自动驾驶 技术， 快递的自动送配送车等 等都属于AI的范畴。 [0003]AI行为分析系统， 用于对AI行为进行分析， 并将行为数据上传至服务器中， 服务商 根据AI的行为数据为A I进行定期升级以及维护等， 但是由于A I行为分析系统内缺少必 要的 预警系统， 这就导致A I系统在发生行为时， 可能会造成一定的社会危害， 比如 汽车的自动驾 驶功能违法变道， 快递自动配送车违法停车等时有发生， 因此如何预警AI的行为成为亟需 解决的问题。 发明内容 [0004]本发明的目的在于提供一种AI行为分析预警系统， 以解决上述背景技术中提出的 问题。 为实现上述目的， 本发明提供如下技术方案： 一种AI行为分析预警系统， 包括信号接 收模块、 信息 分析模块、 信息缓存模块、 数据库模块、 信息采集卡模块、 对比模块、 评价模块、 预警模块、 分级模块和标记模块； [0005]信号接收模块用于 接收AI行为分析系统的行为分析 数据； [0006]信息分析模块用于将信号接收模块所接收的分析 数据进行分类； [0007]信息缓存 模块用于将信息分析模块中已经分类好的数据进行缓存； [0008]数据库模块用于储存互联 网AI行为分析数据库， 并根据数据种类进行分为若干个 不同类型的数据集 合； [0009]信息采集卡模块用于接收信息缓存模块的分类分析数据， 并将各个种类的分析数 据转化为不同种类的采集数据； [0010]对比模块用于接收信息采集卡模块传递的采集数据， 并将采集数据与数据库模块 中不同类型的数据集 合进行对比， 并将对比结果 转化为结果数据； [0011]评价模块用于评价对比模块中的结果数据， 并设立相似度标准， 达到相似度标准 的结果数据转 化为预警数据； [0012]预警模块用于接收评价模块的预警数据， 并将预警数据转化为带标识的AI行为分 析数据； [0013]分级模块用于将预警模块内的带标识的AI行为分析数据根据社会危害性分为不 同等级数据； [0014]标记模块根据分级模块中的不 同等级数据标记AI行为分析系统中出现在AI行为 分析系统内的AI行为分析 数据。说　明　书 1/3 页 3 CN 114741428 A 3