[发明专利]计算搜索服务器文本匹配程度的方法、装置以及存储介质在审
申请号: | 201910819657.3 | 申请日: | 2019-08-31 |
公开(公告)号: | CN110704580A | 公开(公告)日: | 2020-01-17 |
发明(设计)人: | 徐培培 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/182 |
代理公司: | 37205 济南舜源专利事务所有限公司 | 代理人: | 刘雪萍 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 获取数据 文本匹配 存储 分布式文件存储系统 预处理 数据预处理 搜索服务器 增强鲁棒性 存储介质 简化模型 连续特征 数据收集 依赖关系 因子分析 离散化 数据仓 重复 拟合 | ||
1.一种计算搜索服务器文本匹配程度的方法,其特征在于,包括以下步骤:
S1:数据收集的步骤;
对存储在分布式文件存储系统中的数据或是存储在HIVE数据仓中的数据进行收集;
S2:数据预处理的步骤;
对收集到的数据进行预处理,对数据的缺失、重复以及异常进行处理;并获取数据的缺失值、重复值以及异常值;
S3:因子分析的步骤;
通过因子对数据进行简化,获取数据之间的依赖关系;
S4:数据离散化的步骤;
对于连续特征数据,采用特征离散的方法对数据进行处理;
S5:获取文本匹配程度的步骤;
调用朴素贝叶斯分类算法,统一以下模型计算概率:
其中,b为类别,a为特征。
2.根据权利要求1所述的一种计算搜索服务器文本匹配程度的方法,其特征在于,该计算搜索服务器文本匹配程度的方法还包括以下步骤:
S6:将步骤S1-S5集成于应用程序编程接口。
3.根据权利要求2所述的一种计算搜索服务器文本匹配程度的方法,其特征在于,所述步骤S4中,
离散方法采用无监督方法或者有监督方法。
4.一种计算搜索服务器文本匹配程度的装置,其特征在于,包括:
数据收集模块,对存储在分布式文件存储系统中的数据或是存储在HIVE数据仓中的数据进行收集;
数据预处理模块,对收集到的数据进行预处理,对数据的缺失、重复以及异常进行处理;并获取数据的缺失值、重复值以及异常值;
因子分析模块,通过因子对数据进行简化,获取数据之间的依赖关系;
数据离散化模块,对于连续特征数据,采用特征离散的方法对数据进行处理;
文本匹配程度计算模块,调用朴素贝叶斯分类算法,统一以下模型计算概率:
其中,b为类别,a为特征。
5.根据权利要求4所述的一种计算搜索服务器文本匹配程度的装置,其特征在于,该装置还包括编程接口集成模块,将数据收集模块,数据预处理模块,因子分析模块,数据离散化模块,文本匹配程度计算模块封装成API并集成于搜索服务中。
6.根据权利要求5所述的一种计算搜索服务器文本匹配程度的装置,其特征在于,所述数据离散化模块中,离散方法采用无监督方法或者有监督方法。
7.一种计算机存储介质,其特征在于,所述计算机存储介质中存储有指令,当其在计算机上运行时,使得计算机执行权利要求1-3中任一权利要求所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910819657.3/1.html,转载请声明来源钻瓜专利网。