[发明专利]数据要素分析方法、装置、电子装置和存储介质在审
申请号: | 202011136082.4 | 申请日: | 2020-10-22 |
公开(公告)号: | CN112464640A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 郑博方;王龙;陈立力 | 申请(专利权)人: | 浙江大华技术股份有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/289;G06F40/30;G06F40/117;G06F16/35;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 杭州华进联浙知识产权代理有限公司 33250 | 代理人: | 蒋豹 |
地址: | 310016 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 要素 分析 方法 装置 电子 存储 介质 | ||
本申请涉及一种数据要素分析方法、装置、电子装置和存储介质,其中,该数据要素分析方法包括:获取数据库表格中的多个字段,所述字段中包括限定词和数据元词;对多个所述字段进行分词处理,获得对应的限定集合和数据元集合,其中所述限定集合包含有多个所述限定词,所述数据元集合包含有多个所述数据元词;基于所述限定集合和所述数据元集合进行数据要素分析,对多个所述字段进行关联标记。通过本申请,通过对多个字段进行关联标记或关系标记,从底层数据出发,挖掘出数据表中存在各种有用信息,通过对字段进行分析,展现出存在于字段中数据之间的完善价值信息,解决了数据业务架构数据利用效率低下的问题,提高了数据利用效率。
技术领域
本申请涉及数据处理技术领域,特别是涉及数据要素分析方法、装置、电子装置和存储介质。
背景技术
随着数据分析技术的快速发展,大数据的分析逐渐为人们所重视。在数据治理中,数据的来源及形式是多样的,表格数据文件是其中的一种常见类型。
目前针对数据库中的结构化数据的分类,主要基于对字段名称和注释的语义分析、对字段内容的规则等对其进行匹配分类。传统的数据处理,是将业务与数据进行关联,提取与业务相关的数据,数据利用效率低下。
目前针对相关技术中数据业务架构数据利用效率低下,尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种数据要素分析方法、装置、电子装置和存储介质,以至少解决相关技术中数据业务架构数据利用效率低下的问题。
第一方面,本申请实施例提供了一种数据要素分析方法,包括:
获取数据库表格中的多个字段,所述字段中包括限定词和数据元词;
对多个所述字段进行分词处理,获得对应的限定集合和数据元集合,其中所述限定集合包含有多个所述限定词,所述数据元集合包含有多个所述数据元词;
基于所述限定集合和所述数据元集合进行数据要素分析,对多个所述字段进行关联标记。
在其中一些实施例中,所述对将多个所述字段进行分词处理,获得对应的限定集合和数据元集合包括:
将多个所述字段转换为标准词;
将多个所述字段进行分词处理,获得多个所述限定词和多个所述数据元词;
将所述标准词进行分词,获得多个所述限定词和多个所述数据元词;
将多个所述限定词和多个所述数据元词输入识别模型进行分类,获得对应的所述限定集合和所述数据元集合。
在其中一些实施例中,所述将多个所述限定词和多个所述数据元词输入语义识别模型进行分类,获得对应的所述限定集合和所述数据元集合包括:
将多个所述限定词输入第一识别模型,得到多个所述限定集合;
将多个所述数据元词输入第二识别模型,得到多个所述数据元集合。
在其中一些实施例中,所述将多个所述限定词输入第一识别模型,得到多个限定集合包括:
根据相似度计算方法计算多个所述限定词的语义相似度;
将所述语义相似度大于或等于相似度阈值的限定词进行整合,生成所述限定集合。
在其中一些实施例中,所述将多个所述数据元词输入第二识别模型,得到多个数据元集合之前包括:
建立神经网络,将多个所述数据元词作为训练集对神经网络进行训练,获得第二识别模型,所述第二识别模型的输入为多个所述数据元词,输出为多个数据元集合。
在其中一些实施例中,所述基于所述限定集合和所述数据元集合进行数据要素分析,对多个所述字段进行关联标记包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大华技术股份有限公司,未经浙江大华技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011136082.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置