[发明专利]用于项关联的联合嵌入有效
申请号: | 201180007972.8 | 申请日: | 2011-02-01 |
公开(公告)号: | CN102782678A | 公开(公告)日: | 2012-11-14 |
发明(设计)人: | 萨米·本希奥;贾森·韦斯顿 | 申请(专利权)人: | 谷歌公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 周亚荣;安翔 |
地址: | 美国加利*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 关联 联合 嵌入 | ||
1.一种用于使多个项类型的语义上相关的项相关联的方法,包括:
(a)将所述多个项类型的训练项嵌入在被配置在耦接到至少一个处理器的存储器中的联合嵌入空间中;
(b)为所述项类型中的每一个学习到所述联合嵌入空间的一个或多个映射以创建训练的联合嵌入空间和一个或多个学习的映射;以及
(c)基于在所述训练的联合嵌入空间中从第一项到每一个相关联的嵌入的训练项的距离来将一个或多个嵌入的训练项与所述第一项相关联。
2.根据权利要求1所述的方法,进一步包括:
(d)在所述训练的联合嵌入空间中,在通过为所述多个项类型中的第一项类型应用所述一个或多个学习的映射来确定的第一位置处嵌入所述第一项。
3.根据权利要求2所述的方法,进一步包括:
(e)基于所述一个或多个相关联的嵌入的训练项来对所述第一项进行注释。
4.根据权利要求2所述的方法,其中所述学习步骤(b)包括:
(i)从所述嵌入的训练项选择第二项、第三项和第四项,其中所述第二项和所述第三项相关,以及其中所述第二项和所述第四项不相关;
(ii)确定第一距离小于第二距离,其中所述第一距离是在所述联合嵌入空间中在所述第二项和所述第三项之间的距离,以及其中所述第二距离是在所述联合嵌入空间中在所述第二项和所述第四项之间的距离;以及
(iii)基于所述确定来调整所述一个或多个学习的映射。
5.根据权利要求4所述的方法,其中所述调整步骤(iii)进一步包括:
改变所述第二、第三和第四项中的至少一个在所述联合嵌入空间中的位置。
6.根据权利要求5所述的方法,其中所述改变位置步骤包括:
在所述联合嵌入空间中对所述第二、第三或第四项中的至少一个进行移动,使得在所述第二和第三项之间的距离小于从所述第二项到所述第四项的距离。
7.根据权利要求6所述的方法,其中所述移动基于随机梯度下降技术。
8.根据权利要求4所述的方法,其中所述调整基于随机梯度下降技术。
9.根据权利要求4所述的方法,其中所述选择步骤(i)包括:
迭代地选择项作为所述第四项,直到从所述第二项到所选择的项的距离小于在所述第二和第三项之间的距离;以及
基于选择所述第四项所需的迭代数来估计所述第三项关于所述第二项的排名。
10.根据权利要求9所述的方法,其中所述改变位置步骤包括:
在所述联合嵌入空间中对所述第二、第三或第四项中的至少一个进行移动,使得在所述第二和第三项之间的距离小于从所述第二项到所述第四项的距离。
11.根据权利要求10所述的方法,其中所述移动基于根据所估计的排名赋予权重的随机梯度下降技术。
12.根据权利要求4所述的方法,其中所述学习步骤(b)进一步包括:
(iv)重复至少步骤(i)-(iii),直到满足预先确定的终止标准。
13.根据权利要求4所述的方法,其中所述学习步骤(b)进一步包括:
为所述第一项类型的所有项学习第一映射函数;以及
为第二项类型的多个项中的每一个学习相应的映射函数。
14.根据权利要求1所述的方法,进一步包括:
在所述训练的联合嵌入空间中识别查询对象,其中所述查询对象是嵌入的训练项;
将位于所述查询对象的预先确定的距离内的一个或多个训练的嵌入项确定为结果项;以及
输出所述结果项。
15.一种用于使多个项类型的语义上相关的项相关联的系统,包括:
至少一个处理器;
耦接到所述至少一个处理器的存储器;
联合嵌入空间配置器,其被配置成将所述多个项类型的训练项嵌入在所述存储器中的联合嵌入空间中;
映射器,其被配置成为所述项类型中的每一个学习到所述联合嵌入空间的一个或多个映射以创建训练的联合嵌入空间和一个或多个学习的映射;以及
项关联器,其被配置成基于在所述训练的联合嵌入空间中从第一项到每一个相关联的嵌入的训练项的距离来将一个或多个嵌入的训练项与所述第一项相关联。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌公司,未经谷歌公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201180007972.8/1.html,转载请声明来源钻瓜专利网。