[发明专利]一种词向量的确定方法、装置、存储介质和电子装置在审
申请号: | 202110601305.8 | 申请日: | 2021-05-31 |
公开(公告)号: | CN113342934A | 公开(公告)日: | 2021-09-03 |
发明(设计)人: | 梁吉光;徐凯波 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/242;G06F40/279 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 曾军;张娜 |
地址: | 100084 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 向量 确定 方法 装置 存储 介质 电子 | ||
1.一种词向量的确定方法,其特征在于,包括:
获取未登录词中包含的多个目标字符和获取每个所述目标字符的字符向量,其中,所述未登录词为不包含在预设词典中的词;
确定所述目标字符在所述预设词典中的构词关系,其中,所述构词关系为所述目标字符与所述预设词典中包含的已登录词之间的关系;
根据所述构词关系和每个所述字符向量确定所述未登录词的词向量。
2.根据权利要求1所述的方法,其特征在于,根据所述构词关系和每个所述字符向量确定所述未登录词的所述词向量包括:
根据所述构词关系确定每个所述目标字符在所述未登录词中的目标权重值;
基于所述目标权重值对每个所述目标字符的所述字符向量进行赋权计算,以得到所述未登录词的所述词向量。
3.根据权利要求2所述的方法,其特征在于,根据所述构词关系确定每个所述目标字符在所述未登录词中的所述目标权重值包括:
统计所述构词关系以得到第一参数值、第二参数值、第三参数值、第四参数值以及第五参数值,其中,所述第一参数值为所述预设词典中包含的所述已登录词的数量,所述第二参数值为所述未登录词中包含的所述目标字符的数量,所述第三参数值为所述预设词典中与所述目标字符共同构成的所述已登录词中包含的其他字符的数量,所述第四参数值为所述预设词典中包含所述目标字符的所述已登录词的数量,所述第五参数值为所述预设词典中同时包括第一目标字符和第二目标字符的所述已登录词的数量,所述第一目标字符为所述未登录词中包含的多个所述目标字符中的任意一个字符,所述第二目标字符为多个所述目标字符中除所述第一目标字符以外的字符;
对所述第一参数值、所述第二参数值、所述第三参数值、所述第四参数值以及所述第五参数值进行目标计算,得到每个所述目标字符的初始权重值;
对所述初始权重值进行归一化处理,得到每个所述目标字符的所述目标权重值。
4.根据权利要求3所述的方法,其特征在于,对所述第一参数值、所述第二参数值、所述第三参数值、所述第四参数值以及所述第五参数值进行目标计算,得到每个所述目标字符的所述初始权重值包括:
使用第一公式对所述第一参数值、所述第二参数值、所述第三参数值、所述第四参数值以及所述第五参数值进行计算,得到所述初始权重值,其中,所述第一公式为
H(ti,wj)为未登录词wj中的目标字符ti的所述初始权重值,fgn(wj,tj)为所述未登录词wj中包含的所述目标字符ti的个数,fgn(wj,tk)为所述未登录词wj中包含的每个目标字符tk的个数,所述目标字符tk为所述未登录词中包括的全部字符,M为所述预设词典中包含的全部所述已登录词的数量,fn(ti)为所述预设词典中与所述目标字符ti共同构成的所述已登录词中包含的除所述目标字符ti以外的其他字符的数量,gn(ti)为所述预设词典中包含所述目标字符ti的所述已登录词的数量,ffn(ti,tk1)为所述目标字符ti目标字符tk1在多少个所述已登录词中出现过,ffn(tk1)为每个所述目标字符tk1在多少个所述已登录词中出现过,所述目标字符tk1为所述未登录词包含的多个所述目标字符中除所述目标字符ti以外的字符。
5.根据权利要求3所述的方法,其特征在于,对所述初始权重值进行归一化处理包括:
使用第二公式对所述初始权重值进行计算,得到所述目标权重值,其中,所述第二公式为
value(ti,wj)为未登录词wj中的目标字符ti的目标权重值,H(ti,wj)为所述未登录词wj中的所述目标字符ti的所述初始权重值,H(tk,wj)为所述未登录词wj中的每个目标字符tk的所述初始权重值,所述目标字符tk为所述未登录词中包括的全部字符。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110601305.8/1.html,转载请声明来源钻瓜专利网。