[发明专利]一种词向量动态调整的处理方法、系统、装置及介质在审
| 申请号: | 202010542552.0 | 申请日: | 2020-06-15 |
| 公开(公告)号: | CN111881690A | 公开(公告)日: | 2020-11-03 |
| 发明(设计)人: | 李双印;邹邦祺;赵淦森 | 申请(专利权)人: | 华南师范大学 |
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06N3/08;G06N7/00 |
| 代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 胡辉 |
| 地址: | 510631 广东省广州市天*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 向量 动态 调整 处理 方法 系统 装置 介质 | ||
1.一种词向量动态调整的处理方法,其特征在于,包括以下步骤:
获取包括批量单词的语料库数据;
通过主题模型对所述单词进行学习,提取得到所述单词的词向量;所述词向量包括若干潜在语义的维度;
根据所述词向量构建全局词向量矩阵和潜在语义矩阵;
获取待处理单词的上下文语境信息,并基于所述上下文语境信息、所述全局词向量矩阵和所述潜在语义矩阵进行语境建模;
通过基于语义的单纯形法对所述待处理单词的词向量进行各个所述维度的更新,得到所述待处理单词的语境词向量。
2.根据权利要求1所述的词向量动态调整的处理方法,其特征在于:所述主题模型为Word2vec模型、贝叶斯主题模型、BERT模型中的任意一种。
3.根据权利要求1所述的词向量动态调整的处理方法,其特征在于,所述获取待处理单词的上下文语境信息这一步骤,其具体包括:
截取所述待处理单词所在的语句;
通过词袋模型从所述语句获取所述上下文语境信息。
4.根据权利要求1所述的词向量动态调整的处理方法,其特征在于,所述根据所述词向量构建全局词向量矩阵和潜在语义矩阵这一步骤,其具体包括:
根据所述单词表示为各个所述潜在语义的概率,通过所述词向量建立全局词向量矩阵;
根据各个所述潜在语义下出现所述单词的概率,通过所述词向量建立潜在语义矩阵。
5.根据权利要求1所述的词向量动态调整的处理方法,其特征在于,所述通过基于语义的单纯形法对所述待处理单词的词向量进行各个所述维度的更新这一步骤,其具体包括:
通过所述语境建模,确定所述待处理单词在各个所述维度的潜在语义分量;
通过单纯形法确定所述潜在语义分量的向量和;
基于所述潜在语义分量与所述向量和,对所述待处理单词的词向量进行各个所述维度的更新。
6.根据权利要求5所述的词向量动态调整的处理方法,其特征在于,所述基于所述潜在语义分量和所述向量和,对所述待处理单词的词向量进行各个所述维度的更新这一步骤,其具体为:基于所述潜在语义分量与所述向量和的商,对所述待处理单词的词向量进行各个所述维度的更新。
7.一种词向量动态调整的处理系统,其特征在于,包括:
获取模块,用于获取包括批量单词的语料库数据;
提取模块,用于通过主题模型对所述单词进行学习,提取得到所述单词的词向量;所述词向量包括若干潜在语义的维度;
构建模块,用于根据所述词向量构建全局词向量矩阵和潜在语义矩阵;
建模模块,用于获取待处理单词的上下文语境信息,并基于所述上下文语境信息、所述全局词向量矩阵和所述潜在语义矩阵进行语境建模
处理模块,用于通过基于语义的单纯形法对所述待处理单词的词向量进行各个所述维度的更新,得到所述待处理单词的语境词向量。
8.一种词向量动态调整的处理装置,其特征在于,包括:
至少一个处理器;
至少一个存储器,用于存储至少一个程序;
当所述至少一个程序被所述至少一个处理器执行,使得所述至少一个处理器实现如权利要求1-6任一项所述的词向量动态调整的处理方法。
9.一种计算机可读存储介质,其中存储有处理器可执行的指令,其特征在于:所述处理器可执行的指令在由处理器执行时用于实现如权利要求1-6中任一项所述的词向量动态调整的处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南师范大学,未经华南师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010542552.0/1.html,转载请声明来源钻瓜专利网。





