[发明专利]文本分类模型训练和使用方法及装置

说明书

本发明公开文本分类模型训练和使用方法及装置，其中，一种文本分类模型训练方法，包括：定义基础领域、每个领域内的强说法和每个领域内的弱说法；根据基础领域、强说法和弱说法，对用户说法进行人工标注；采用双向长短时记忆网络对文本分类建立文本分类模型，其中，文本分类模型的输入包括每个词的词向量和词库特征向量的拼接，模型的输出是每个领域的强弱说法表示；提取用户说法中每个词的词向量和每个词的词库特征向量；将每个词的词向量和词库特征向量输入至文本分类模型并获取文本分类模型的输出；以及利用人工标注的用户说法作为输出的目标对模型进行训练和更新。本申请的方法和装置可以对用户说法进行更精准的分类，极大地提升用户体验。

技术领域

本发明属于文本分类技术领域，尤其涉及文本分类模型训练和使用方法及装置。

背景技术

相关技术中，存在基于规则匹配的文本领域分类，基于特征工程的文本领域分类和基于深度学习的文本领域分类。

其中，基于规则匹配的文本领域分类：每个领域，人工设计相应的规则和权重去匹配用户的说法。把所有匹配上的领域按权重高低输出领域。

基于特征工程的文本领域分类：人工提取文本特征(如ngram特征)作为分类模型的输入，特征提取的过程决定了模型结果的上限。最常用的模型有SVM(Support VectorMachine)、最大熵模型等。

基于深度学习的文本领域分类：没有复杂的人工提取特征的过程，模型自动获取特征表达能力，端到端的解决问题。常用模型有：CNN(Convolutional Neural Network)、LSTM(Long Short Term Memory Network)等。

发明人在实现本申请的过程中发现，现有技术的上述方案至少存在以下缺陷：

基于规则匹配的文本领域分类：需耗费大量人力设计匹配规则，权重全靠人为经验确定，泛化性差；设计的规则不具有通用性，每个领域都要特殊定制规则。

基于特征工程的文本领域分类：需耗时耗力地人工提取特征，且常用的特征提取方法存在数据稀疏和维度爆炸等问题，一旦特征提取的不好，模型很难取得较好的性能，且不同任务特征不具有通用性，需根据不同的任务定制特征。

基于深度学习的文本领域分类：虽然该方法能自动提取文本的特征，但是现在工业界用的模型对于各个领域通用的说法以及领域表达能力不强的说法分类能力较差，这类说法增加了模型的困惑度，限制了模型性能的提升。

发明内容

本发明实施例提供一种文本分类模型训练和使用方法及装置，用于至少解决上述技术问题之一。

第一方面，本发明实施例提供一种文本分类模型训练方法，包括：定义基础领域、每个领域内的强说法和每个领域内的弱说法；根据基础领域、强说法和弱说法，对用户说法进行人工标注；采用双向长短时记忆网络对文本分类建立文本分类模型，其中，所述文本分类模型的输入包括每个词的词向量和词库特征向量的拼接，所述模型的输出是每个领域的强弱说法表示；提取用户说法中每个词的词向量和每个词的词库特征向量；将每个词的所述词向量和所述词库特征向量输入至所述文本分类模型并获取所述文本分类模型的输出；以及利用人工标注的用户说法作为所述输出的目标对所述模型进行训练和更新。

第二方面，本发明实施例提供一种文本分类模型使用方法，包括：接收并提取用户说法中每个词包含的词库信息并转换成词库特征向量，以及提取所述用户说法中每个词的词向量；将所述词向量和所述词库特征向量拼接后作为根据第一方面所述的方法训练后的模型的输入；以及接收所述模型的输出，其中，所述输出包括所述用户说法的对于每个领域的强弱说法的表示。