[发明专利]一种基于词嵌入的推特情感分类文本处理优化系统

权利要求书

1.一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：包括下列模块：文本处理模块、单词嵌入模块、推文嵌入模块、模型培训和验证模块，各模块之间以并列的方式通信连接，所述文本处理模块使用传统文本处理方式剔除停止词对推文分类的影响；所述单词嵌入模块使用skip gram模型对特定Twitter上下文进行单词嵌入；所述推文嵌入模块对n维的m个词向量进行平均，得到一个n维tweet向量，并与向量的和、向量的加权平均、根据词的重要性选择添加k个最重要词向量三种聚合方法的性能进行比较；所述模型培训和验证模块使用10×2重嵌套交叉验证方式进行模型训练和验证。

2.根据权利要求1所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述文本处理模块中，正则表达式从tweet中删除不需要的字符和单词，创建一个停止词的列表，接着从tweets中排除单个字符，最后使用单个表情符号的Unicode转换格式来代替Unicode字符。

3.根据权利要求2所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述单词嵌入模块中，将每个单词的语义和上下文属性编码为一个数字向量，再使用skip gram模型对特定Twitter上下文进行单词嵌入。

4.根据权利要求3所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述单词嵌入模块中，使用预测学习隐含层中整个语料库词汇的向量作为单词的嵌入，然后在Twitter语料库中给定一个包含N个唯一单词的词汇表，将每个单词用一个N维的独热编码向量表示，然后自动编码器将每个N维输入向量X∈R^N映射到一个较低的K维编码空间，通过学习单词嵌入矩阵W∈R^KXN，可以得到隐藏层Z∈R^K中的编码，最后将Z映射回已知的目标Y向量。

5.根据权利要求4所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述推文嵌入模块中，将这种基线方法与向量的和、向量的加权平均、根据词的重要性选择并添加k个最重要的词向量这三种聚合方法的性能进行比较。

6.根据权利要求5所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述推文嵌入模块中，设推文中的m个单词形成推文矩阵[w_ij]∈R^m×D，，然后按重要性降序对单词进行排序，选择k个最重要的单词。

7.根据权利要求6所述的一种基于词嵌入的推特情感分类文本处理优化系统，其特征在于：所述模型培训和验证模块中，使用最好的超参数值和90％的数据，然后在外部交叉验证中测试忽略测试数据折叠10％，对所有10个数据折叠重复该训练-验证-测试过程，得到用于分类的接收器工作特性曲线AUC值下的10个区域。