[发明专利]相似度特征向量的构建方法、装置、电子设备及存储介质在审
申请号: | 202110037613.2 | 申请日: | 2021-01-12 |
公开(公告)号: | CN112733939A | 公开(公告)日: | 2021-04-30 |
发明(设计)人: | 黄艳香;吴信东;白强伟 | 申请(专利权)人: | 上海明略人工智能(集团)有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 孔默 |
地址: | 200030 上海市徐汇区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 相似 特征向量 构建 方法 装置 电子设备 存储 介质 | ||
本申请提供了一种相似度特征向量的构建方法、装置、电子设备及存储介质,从多个数据匹配标签中的每个数据匹配标签中确定出至少一个属性特征和每个属性特征对应的属性值;基于每个数据匹配标签的各个属性特征的属性值,确定任意两个数据匹配标签中同类别属性特征的属性相似度;根据每个数据匹配标签中包括的属性特征和属性特征的数量,确定两个数据匹配标签之间的属性数占比,最后,基于每两个数据匹配标签之间的属性相似度以及属性数占比,构建用于输入至确定多个数据匹配标签中实体是否匹配的匹配模型的相似度特征向量。这样,可以有效地将多个数据匹配标签转换为相似度特征向量,可以降低匹配模型的局限性,以及提高实体匹配结果的准确性。
技术领域
本申请涉及信息处理技术领域,尤其是涉及一种相似度特征向量的构建方法、装置、电子设备及存储介质。
背景技术
随着企业的不断发展,由于管理人员变迁、物理布局分散、系统自治等原因,数据存在来源繁杂(不同类型的关系型数据库,不同部门的数据等)、结构异构(SQL,NoSQL数据库,文本文件,Hive大数据等)等问题,要完成不同部门数据资产的统一管理,并不简单。在企业的数字化转型过程中,将多源异构的数据进行集成、融合,是企业做好上层应用的必要基础条件,而在数据融合的过程中实体匹配是这一过程中非常重要的一环。
目前,传统的机器学习方法、以及词嵌入(word embedding)方法等构建的特征向量往往与特征数量相关,当从不同数据源获取到的特征数量不同时,使用针对某一数据源训练好的匹配模型,则会使得匹配的结果不够准确,另外,使用同一数据源训练好的匹配模型,不能够跨数据源进行实体匹配,局限性较高。
发明内容
有鉴于此,本申请的目的在于提供一种相似度特征向量的构建方法、装置、电子设备及存储介质,可以有效地将从不同的数据源获取到的数据匹配标签,转换为相似度特征向量,进而,有助于提高匹配模型的鲁棒性以及降低匹配模型的局限性,从而,可以提高实体匹配结果的准确性。
本申请实施例提供了一种相似度特征向量的构建方法,所述构建方法包括:
获取待匹配的多个数据匹配标签;
针对于每个数据匹配标签,从该数据匹配标签中确定出至少一个属性特征以及每个属性特征对应的属性值;
针对于每两个数据匹配标签,基于每个数据匹配标签中各个属性特征对应的属性值,确定所述两个数据匹配标签中同类别属性特征之间的属性相似度;
基于所述两个数据匹配标签中的每个数据匹配标签中包括的属性特征以及属性特征的数量,确定所述两个数据匹配标签之间的属性数占比;
基于所述多个数据匹配标签中每两个数据匹配标签之间的属性相似度以及属性数占比,构建用于输入至确定所述多个数据匹配标签中实体是否匹配的匹配模型的相似度特征向量。
进一步的,所述基于所述多个数据匹配标签中每两个数据匹配标签之间的属性相似度以及属性数占比,构建用于输入至确定所述多个数据匹配标签中实体是否匹配的匹配模型的相似度特征向量,包括:
针对于每两个数据匹配标签,基于所述两个数据匹配标签在各个属性特征下的属性相似度,确定所述两个数据匹配标签之间的统计相似度以及相似度占比;
基于所述多个数据匹配标签中每两个数据匹配标签之间的统计相似度、相似度占比以及属性数占比,构建用于输入至确定所述多个数据匹配标签中实体是否匹配的匹配模型的相似度特征向量。
进一步的,当所述属性数占比包括共同属性占比、最小属性占比以及最大属性占比时,所述基于所述两个数据匹配标签中的每个数据匹配标签中包括的属性特征以及属性特征的数量,确定所述两个数据匹配标签之间的属性数占比,包括:
确定所述两个数据匹配标签中均具有的属性特征的第一数量,以及所述两个数据匹配标签中每个数据匹配标签所包括的属性特征的第二数量;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海明略人工智能(集团)有限公司,未经上海明略人工智能(集团)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110037613.2/2.html,转载请声明来源钻瓜专利网。