[发明专利]一种基于迁移学习和深度学习的多标签化工领域新闻分类方法

说明书

本发明公开了一种基于迁移学习和深度学习的多标签化工领域新闻分类方法，包括获取新闻数据；对新闻数据进行分段及添加标签，建立数据集序列M；将数据集序列M中每段文本转化为向量序列，获得每段文本的组合向量；选择预训练模型并利用组合向量进行训练，得到文本向量；利用迁移学习构建多标签化工新闻分类模型，以捕捉文本向量中局部的特征和全局的语义信息；对多标签化工新闻分类模型进行优化；对多标签化工新闻分类模型进行性能分析。本发明解决了现有技术中新闻分类方法存在无法实现多标签的分类任务或对于多标签分类任务表现不佳、需要大量文本数据来进行训练、需要较大的存储空间来存储词向量的问题。

技术领域

本发明涉及自然语言处理技术领域，特别是涉及一种基于迁移学习和深度学习的多标签化工领域新闻分类方法。

背景技术

新闻分类技术可以更好地自动整理、管理和分析大量的新闻文本，广泛应用于新闻推荐、情感分析、事件跟踪等方面。此外，新闻分类技术还可用于检测网络虚假信息、自动化智能问答等方面，有助于提高信息处理的效率和精确度。

现有技术中，新闻分类的方法主要包括Text-CNN和LSTM模型，但是这些方法都存在一些问题。Text-CNN对长文本的语义信息捕捉不完整，且无法实现多标签的分类任务；而LSTM模型需要大量文本数据来进行训练，也容易造成梯度爆炸的现象。

除了Text-CNN和LSTM模型以外，现有技术中还有一些其他的新闻分类方法，例如，基于词向量嵌入的分类方法可以将每个单词映射到低维向量空间中，并通过这些向量来表示整个文本的语义信息。然而，这种方法往往需要较大的存储空间来存储词向量，并且可能会受到不同语言、领域之间的差异影响。另外，基于机器学习的分类方法(如朴素贝叶斯、支持向量机等)也可以用于新闻分类任务，但是这些方法需要手动选择特征并进行特征工程，而且对于多标签分类任务表现不佳。

发明内容

发明目的：本发明的目的是提供一种适用于小样本新闻数据且新闻分类准确率高的基于迁移学习和深度学习的多标签化工领域新闻分类方法。

技术方案：为实现上述目的，本发明所述的一种基于迁移学习和深度学习的多标签化工领域新闻分类方法，包括以下步骤：

步骤S1：获取新闻数据；

步骤S2：对新闻数据进行分段及添加标签，建立数据集序列M；

步骤S3：将数据集序列M中每段文本转化为向量序列，获得每段文本的组合向量；

步骤S4：选择预训练模型并利用组合向量进行训练，得到文本向量；

步骤S5：利用迁移学习构建多标签化工新闻分类模型，以捕捉文本向量中局部的特征和全局的语义信息；

步骤S6：对多标签化工新闻分类模型进行优化；

步骤S7：对多标签化工新闻分类模型进行性能分析。

其中，步骤S1所述的新闻数据是指已收集的国内外化工新闻。

其中，步骤S2所述的分段及添加标签包括以下子步骤：

步骤S201：将所有新闻数据按Stop_word＝{'/n','。'}停用词进行分割，其中'/n'代表换行符，形成n段文本；

步骤S202：对每段文本添加标签label，即将每段文本逐一对比标签列表LABEL中关键词，符合关键词记为1，不符合记为0，形成关于1或0的数据列表，作为这段文本的标签label；

步骤S203：得到的每段文本记为：Para＝{id,content,label}，其中id＝1,2...n，content表示文本内容；