[发明专利]一种自适应错词和生词的印尼新闻文本分类方法有效
申请号: | 201910250650.4 | 申请日: | 2019-03-29 |
公开(公告)号: | CN110008341B | 公开(公告)日: | 2023-01-17 |
发明(设计)人: | 杨国武;陈浩;吴尽昭;黄勇;杨晓强;熊菊霞;熊招辉;王子裕 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/04 |
代理公司: | 北京正华智诚专利代理事务所(普通合伙) 11870 | 代理人: | 李梦蝶 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 自适应 生词 印尼 新闻 文本 分类 方法 | ||
1.一种自适应错词和生词的印尼新闻文本分类方法,其特征在于,包括如下步骤:
S1、根据印尼新闻数据训练词到向量的神经网络模型,得到词到向量的映射字典word2vector;
S2、根据所述词到向量的映射字典word2vector,训练自适应错词和生词的词向量生成模型以及字到向量的映射字典char2vector;
S3、根据所述自适应错词和生词的词向量生成模型以及字到向量的映射字典char2vector,利用有标签的新闻语料训练文本分类模型;
所述步骤S3包括如下步骤:
S301、根据所述自适应错词和生词的词向量生成模型以及字到向量的映射字典char2vector,将用于训练的新闻样本进行分词,得到单词序列{word1,word2...wordn},其中,n表示新闻的长度;
S302、将所述单词序列中的每个单词分割成字符序列{char1,char2...chark},并通过字到向量的映射字典char2vector利用有标签的新闻语料,得到单词的矩阵表示{V1,V2...Vk},其中,Vk表示单词中第k个字符的字向量,k表示单词矩阵中的字符个数;
S303、将每个单词的矩阵表示{V1,V2...Vk}输入到自适应错词和生词的词向量生成模型,输出单词的词向量,得到新闻的矩阵表示{x1,x2...xn},其中,xn表示新闻的矩阵中第n个词的词向量,n表示新闻的长度;
S304、根据所述新闻的矩阵表示训练印尼新闻文本分类模型,从而完成文本分类模型的训练;
S4、根据所述文本分类模型对待分类新闻进行分词,并利用所述自适应错词和生词的词向量生成模型以及字到向量的映射字典char2vector,得到词向量,从而完成印尼新闻文本的分类。
2.根据权利要求1所述的自适应错词和生词的印尼新闻文本分类方法,其特征在于,所述步骤S1具体为:
根据印尼新闻数据利用印尼新闻语料以及连续词袋模型CBOW训练词向量,得到词到向量的映射字典word2vector,其中,所述词到向量的映射字典word2vector的表达式如下:
word2vector={'word1':X1,'word2':X2...'wordm':Xm}
其中,wordm表示词到向量的映射字典word2vector中的第m个单词,Xm表示单词wordm的词向量,m表示单词个数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910250650.4/1.html,转载请声明来源钻瓜专利网。