[发明专利]词向量处理方法、装置以及电子设备

说明书

本说明书实施例公开了词向量处理方法、装置以及电子设备。所述方法包括：从词中划分出多个n元字符，基于n元字符的字符向量，对该词的词向量进行训练，其中，n元字符表征其对应的词的连续n个字符，以日文词为例，其字符为假名和/或日文汉字。

技术领域

本说明书涉及计算机软件技术领域，尤其涉及词向量处理方法、装置以及电子设备。

背景技术

如今的自然语言处理的解决方案，大都采用基于神经网络的架构，而在这种架构下一个重要的基础技术就是词向量。词向量是将词映射到一个固定维度的向量，该向量表征了该词的语义信息。

在现有技术中，常见的用于生成词向量的算法是专门针对英文设计的。比如，谷歌公司的单词向量算法、微软公司的深度神经网络算法等。

基于现有技术，需要一种针对日文的词向量生成方案。

发明内容

本说明书实施例提供词向量处理方法、装置以及电子设备，用以解决如下技术问题：需要一种针对日文的词向量生成方案。

为解决上述技术问题，本说明书实施例是这样实现的：

本说明书实施例提供的一种词向量处理方法，包括：

对语料分词得到各词；

确定所述各词对应的各n元字符，所述n元字符表征其对应的词的连续n个字符；

建立并初始化所述各词的词向量，以及所述各词对应的各n元字符的字符向量；

根据所述词向量、所述字符向量，以及分词后的所述语料，对所述词向量和所述字符向量进行训练；

其中，所述词为日文词，所述字符为假名和/或日文汉字。

本说明书实施例提供的一种词向量处理装置，包括：

分词模块，对语料分词得到各词；

确定模块，确定所述各词对应的各n元字符，所述n元字符表征其对应的词的连续n个字符；

初始化模块，建立并初始化所述各词的词向量，以及所述各词对应的各n元字符的字符向量；

训练模块，根据所述词向量、所述字符向量，以及分词后的所述语料，对所述词向量和所述字符向量进行训练；

其中，所述词为日文词，所述字符为假名和/或日文汉字。

本说明书实施例提供的另一种词向量处理方法，包括：

步骤1，对语料分词，并建立通过所述分词得到的各词构成的词汇表，其中，所述各词不包括在所述语料中出现次数少于设定次数的词；跳转步骤2；

步骤2，根据所述词汇表，建立n元字符映射表，所述映射表包含所述各词与n元字符之间的映射关系，所述n元字符表征其映射的词的连续n个字符；跳转步骤3；

步骤3，根据所述n元字符映射表，建立并初始化所述各词的词向量，以及所述各词映射的各n元字符的字符向量；跳转步骤4；

步骤4，遍历分词后的所述语料，分别将遍历到的词作为当前词w并对当前词w执行步骤5，若遍历完成则结束，否则继续遍历；

步骤5，以当前词w为中心，向两侧分别滑动至多k个词建立窗口，遍历所述窗口中除当前词w以外的所有词，分别将遍历到的词作为当前词w的当前上下文词c并对当前上下文词c执行步骤6，若遍历完成则继续步骤4的执行，否则继续遍历；

步骤6，按照如下公式计算当前词w与当前上下文词c的相似度：