[发明专利]文本识别方法、文本识别装置以及可读存储介质

权利要求书

1.一种文本识别方法，其特征在于，所述文本识别方法包括：

获取待识别文本的嵌入层表示；

基于所述嵌入层表示分别提取所述待识别文本的槽位语义表示和意图语义表示；

将所述槽位语义表示和所述意图语义表示输入输出层，获取所述待识别文本的槽位标签和意图标签；

根据所述槽位标签和所述意图标签获取所述待识别文本的文本信息。

2.根据权利要求1所述的文本识别方法，其特征在于，

所述基于所述嵌入层表示分别提取所述待识别文本的槽位语义表示和意图语义表示，包括：

利用文本识别模型中的第一神经网络模型从所述嵌入层表示提取所述待识别文本的槽位语义表示；

利用所述文本识别模型中的第二神经网络模型从所述嵌入层表示提取所述待识别文本的意图语义表示。

3.根据权利要求1所述的文本识别方法，其特征在于，

所述基于所述嵌入层表示分别提取所述待识别文本的槽位语义表示和意图语义表示，包括：

利用所述文本识别模型中的神经网络模型从所述嵌入层表示提取所述待识别文本的槽位语义表示以及中间意图语义表示；

对所述中间意图语义表示进行降维处理，获取所述待识别文本的意图语义表示。

4.根据权利要求1至3任一项所述的文本识别方法，其特征在于，

所述文本识别方法，还包括：

利用槽位门控模块融合所述意图语义表示，以及若干字词的槽位语义表示，获取所述槽位语义表示的注意力权重；

将所述槽位语义表示及其注意力权重输入所述输出层，获取所述待识别文本的槽位标签。

5.根据权利要求1至3任一项所述的文本识别方法，其特征在于，

所述文本识别模型中的神经网络模型为卷积神经网络、循环神经网络和/或预训练模型。

6.根据权利要求1所述的文本识别方法，其特征在于，

所述文本识别方法，还包括：

利用注意力模块对所述嵌入层表示进行处理；

和/或，利用注意力模块对神经网络模型输出的中间槽位语义表示，和/或中间意图语义表示进行处理。

7.根据权利要求6所述的文本识别方法，其特征在于，

所述文本识别模型包括嵌入所述注意力模块的神经网络模型，所述神经网络模型根据输入的嵌入层表示输出所述注意力模块处理后的槽位语义表示，和/或意图语义表示。

8.根据权利要求1所述的文本识别方法，其特征在于，

所述文本识别方法还包括：

获取待训练文本的预测槽位标签和预测意图标签；

基于所述预测槽位标签和预测意图标签对文本识别模型进行训练；

所述基于所述预测槽位标签和预测意图标签对文本识别模型进行训练，包括：

基于所述预测槽位标签与真实槽位标签的槽位识别损失，以及槽位损失权重，其中，所述槽位识别损失与所述槽位损失权重呈反相关关系；

基于所述预测意图标签与真实意图标签的意图识别损失，以及，意图损失权重，其中，所述意图识别损失与所述意图损失权重呈反相关关系；

利用所述槽位损失权重和所述意图识别损失，获取所述槽位识别损失和所述意图识别损失的加权和，获取所述文本识别模型的联合损失值；

按照所述联合损失值对所述文本识别模型进行训练。

9.根据权利要求1所述的文本识别方法，其特征在于，

所述文本识别方法，还包括：

获取所述待识别文本的历史对话信息，并获取所述历史对话信息的历史嵌入层表示；

基于所述历史嵌入层表示提取所述历史对话信息的历史信息语义表示；

将所述待识别文本的意图语义表示与所述历史信息语义表示进行融合，并将融合表示输入所述输出层，获取所述待识别文本的意图标签。