[发明专利]一种基于词向量和循环神经网络的机器人聊天方法

权利要求书

1.一种基于词向量和循环神经网络的机器人聊天方法，其特征在于，包括如下步骤：

S1、将原始语料库中问句Q以及答句A文件进行分离处理，得到问答句QA、问句Q以及答句A文件；

S2、加载所述问答句QA文件，利用连续词袋模型CBOW对所述问答句QA文件进行词向量训练，得到词向量文件QA.conv；

S3、加载所述词向量文件QA.conv，利用句子相似度算法计算测试问句与问句Q文件中所有问句之间的相似度，得到句子的最大相似度值most_value；

所述步骤S3包括如下步骤：

S301、加载所述词向量文件QA.conv，将测试问句与问句Q文件分别进行分词处理，并分别遍历所述词向量文件QA.conv，得到句子中每个词对应的词向量；

S302、将所述每个词对应的词向量在每个维度上进行相加求和，并求解每个维度的平均值，得到每个句子对应的平均词向量；

S303、根据所述每个句子对应的平均词向量利用余弦相似度计算测试问句与问句Q文件中所有问句之间的相似度；

S304、将所述计算结果按降序排列，得到测试问句与问句Q文件中所有问句之间的最大相似度值most_value；

S4、将所述问句Q以及答句A文件分别进行分词、编码以及句子填补处理，并根据处理结果加载所述词向量文件QA.conv，将问句Q以及答句A文件转换成词向量矩阵embedding；

所述步骤S4包括如下步骤：

S401、将所述问句Q以及答句A文件分别进行分词、编码处理，得到处理后的问句Q以及答句A文件；

在所述步骤S401中的对答句A文件和问句Q文件的编码处理的方法具体为：在答句A文件中的所有答句的前方加一开始标识符1，在所有答句的后方加一结束标识符2，以及在问句Q文件中的所有问句的后方加一结束标识符2；

S402、将所述处理后的问句Q以及答句A文件分别进行分批次处理，并根据分批处理后的问句Q以及答句A文件计算每批次中最大句子的长度most_lenght；

S403、判断每批次中问句Q以及答句A文件的句子长度是否小于所述最大句子的长度most_lenght，若是，则对所述处理后的问句Q以及答句A文件的句子长度进行补0处理，并进入步骤S404，反之，则不进行补0处理，结束当前问句Q以及答句A的填补处理；

S404、加载所述词向量文件QA.conv，并根据所述词向量文件QA.conv查询每批次的问句Q以及答句A文件中每个词对应的词向量，从而将问句Q以及答句A文件转换成词向量矩阵embedding；

S5、根据所述词向量矩阵embedding利用循环神经网络LSTM以及注意力机制attention进行迭代训练，得到生成式回复模型；

所述生成式回复模型的参数设置如下：

所述生成式回复模型的批处理句子数量batch_size＝50；

所述生成式回复模型的词向量维度embedding_size＝300；

所述生成式回复模型的网络隐藏层神经元个数lstm_dims＝128

所述生成式回复模型的学习率采用多项式衰减学习率，其中，初始学习率为0.1，最小学习率为0.01，衰减频数为50；

S6、判断所述最大相似度值most_value是否大于预设的句子相似度阈值base_value，若是，则输出问句Q中最大相似度问句对应的答句进行回复，反之，则加载所述生成式回复模型进行生成式回复，从而完成与机器人的聊天，

所述步骤S6中预设的句子相似度阈值base_value为0.75。

2.根据权利要求1所述的基于词向量和循环神经网络的机器人聊天方法，其特征在于，所述步骤S1中原始语料库为单轮对话语料库。

3.根据权利要求1所述的基于词向量和循环神经网络的机器人聊天方法，其特征在于，所述步骤S2包括如下步骤：

S201、将所述问答句QA文件利用结巴工具进行分词处理，得到分词后的QA_cut文本；

S202、统计所述分词后的QA_cut文本中每个词的词频，过滤低频词汇，并将过滤后的QA_cut文本进行编码处理，生成问答句词语字典；

S203、根据所述问答句词语字典利用连续词袋模型CBOW进行词向量训练，得到词向量文件QA.conv。