[发明专利]基于稀疏哈希的大数据检索方法有效
申请号: | 201310457033.4 | 申请日: | 2013-09-29 |
公开(公告)号: | CN103605653B | 公开(公告)日: | 2017-01-04 |
发明(设计)人: | 朱晓峰;张师超;刘星毅 | 申请(专利权)人: | 广西师范大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 桂林市华杰专利商标事务所有限责任公司45112 | 代理人: | 巢雄辉 |
地址: | 541004 广西壮*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 稀疏 数据 检索 方法 | ||
1.基于稀疏哈希的大数据检索方法,包括下述步骤:
(1)从大数据中抽样数据当做训练集X;
(2)用X训练哈希函数;
(3)对大数据集中还没得到二进制代码的实例进行二进制编码,并将编码后的大数据储存在计算机内存或者外磁盘;
(4)对新来的测试实例,首先得到它的低维实数值,然后得到它的低维二进制代码,最后,把测试实例的二进制代码跟大数据的二进制代码进行相似性搜索,得到它的相似实例。
2.根据权利要求1的方法,所述步骤(1)的训练集X的训练集大小n由确定,其中tα/2表示置信度的值,通过t分布临界值获得,ε表示设定的最大的允许误差。
3.根据权利要求1的方法,所述步骤(2)包括下述过程:
A).建立目标函数:
其中X为训练集,B是基空间,B的每一个向量是从训练集X中训练出来的基向量,S是X被投影在基空间B上的低维实数值,λ1和λ2是通过十折交叉验证方法取得的可调参数,wi,j是X中两个实例xi和xj之间的欧式距离在高斯核上的投影,si和sj是矩阵S中的两个向量,Bi,j是矩阵B中的第i行和第j列元素,i=1,…,n表示实例的记号,j=1,…,k表示基向量的标号,n是实例的个数,k是基向量的个数,表示S中每个元素为非负;
B).把S转换成二进制代码;
C).建立哈希函数。
4.根据权利要求3的方法,所述过程B)中,S中非0元素转换成0,否则为1。
5.根据权利要求3的方法,所述过程C)中建立哈希函数的过程为:找到训练集X中哈希值全为1的实例为类Am1,m=1,…,d,剩余哈希值为0的实例归为类Am0,m=1,…,d,得到2d个类,哈希函数定义为:
设S的维度是d,X的维度是D,D>>d,d维中每一维为一个二进制向量,为d维中每一维建立一个哈希函数,一共建立d个哈希函数;
式中,Xi是矩阵X的第i个向量,Si是矩阵S的第i个向量,i=1,…,n。
6.根据权利要求1的方法,所述步骤(3)对大数据每一个实例x,通过s=(B'B+2I)-1B'x得到x的低维实数值,然后通过哈希函数得到它的低维二进制代码;其中,B是上面步骤定义的基空间,I是跟B同维度的单位矩阵。
7.根据权利要求1的方法,所述步骤(4)对测试数据集每一个实例xt,通过st=(B'B+2I)-1B'xt得到xt的低维实数值,然后通过哈希函数得到它的低维二进制代码;其中,B是上面步骤定义的基空间,I是跟B同维度的单位矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西师范大学,未经广西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310457033.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置