[发明专利]数据处理方法、装置、电子设备及存储介质有效
申请号: | 202110078164.6 | 申请日: | 2021-01-20 |
公开(公告)号: | CN113159091B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 王震 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F18/2431 | 分类号: | G06F18/2431;G06N5/04;G06N3/02;G06N20/00;G06V10/764;G06V40/16;G06V40/10;G06V30/14;G06V10/70;G06V10/82 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 韩海花 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,包括:
获取目标数据;
采用第一微服务对所述目标数据进行数据划分,以得到多种类型的子数据;
采用多个第二微服务基于并行数据处理的方式分别处理对应类型的所述子数据,以得到与所述第二微服务分别对应的多个数据处理结果,其中,每个所述第二微服务与一个类型的所述子数据对应;以及
融合所述多个数据处理结果,以得到目标数据处理结果;
其中,所述第一微服务是对人工智能模型中的第一算子进行微服务化处理得到的,所述第二微服务是对所述人工智能模型中的第二算子进行微服务化处理得到的,所述第一算子,是人工智能模型中用于数据预处理的算子,所述第二算子,是人工智能模型中用于对预处理后的数据进行算法处理的算子,所述第一算子和所述第二算子不相同;
其中,在所述采用第一微服务对所述目标数据进行数据划分,以得到多种类型的子数据之后,还包括:
根据所述子数据的类型,对与其对应的所述子数据添加类型标签;
根据所述类型标签,将所述多种类型的子数据处理为数据矩阵,其中,所述数据矩阵之中包括:所述子数据,和与所述子数据对应的类型标签;
确定与数据处理任务对应的多个候选算子标识;
采用各个所述候选算子标识对所述数据矩阵之中对应类型标签的子数据进行标记;
对所述数据矩阵进行备份处理,以得到多个备份数据矩阵;
将所述多个备份数据矩阵存储至数据处理设备对应的共享内存之中;
其中,所述采用多个第二微服务分别处理对应类型的所述子数据,以得到与所述第二微服务分别对应的多个数据处理结果,包括:
确定所述多个第二微服务分别对应的多个第二算子标识;
根据所述多个第二算子标识,分别从所述数据矩阵之中确定对应的候选算子标识;以及
采用多个第二微服务分别处理所述对应的候选算子标识所标记的子数据,以得到与所述第二微服务分别对应的多个数据处理结果;
其中,当所述目标数据是海量的视频数据时,所述采用第一微服务对所述目标数据进行数据划分,以得到多种类型的子数据,包括:
采用所述第一微服务从各个视频数据中拆分出音频类型的语音数据、图像类型的图片数据或者文本类型的文本数据,所述语音数据、图片数据、文本数据称为子数据。
2.根据权利要求1所述的方法,其中,所述采用第一微服务对所述目标数据进行数据划分,以得到多种类型的子数据,包括:
对所述目标数据之中的无效数据进行过滤处理,以得到过滤后的第一数据;
采用所述第一微服务对所述第一数据进行数据划分,以得到所述多种类型的子数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110078164.6/1.html,转载请声明来源钻瓜专利网。