[发明专利]基于BERT模型的意图分析方法、装置、设备及介质

说明书

本申请涉及人工智能，公开了一种基于BERT模型的意图分析方法，包括：获取到语句信息时，利用BERT模型将所述语句信息转换为字向量序列；利用条件随机场算法生成所述字向量序列对应的标注向量序列；将所述字向量序列与所述标注向量序列进行融合，得到第一句向量；以及，利用自注意力机制对所述字向量序列进行处理，得到第二句向量；将所述第一句向量和所述第二句向量进行加权求和处理，得到第三句向量；对所述第三句向量进行归一化处理，得到所述语句信息对应的意图信息。本申请还涉及区块链技术。本申请还公开了一种基于BERT模型的意图分析装置、计算机设备以及计算机可读存储介质。本申请提高了识别用户意图的准确率。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种基于BERT模型的意图分析方法、基于BERT模型的意图分析装置、计算机设备以及计算机可读存储介质。

背景技术

人工智能作为一项重要技术，已经广泛的运用到我们的生活和生产中，随着人工智能技术的发展和运用领域的逐渐深入，人们对意图识别环境的复杂性和准确率提出了更高的要求。

目前，意图识别的主要技术手段基本都是将语句信息切成字或词，分别获取字或词的向量，然后累加求和，从而进行意图类别的判断，但这样存在的弊端在于噪音数据的字向量或词向量在对句向量累加求和的过程中，会对句向量的语义表达带来干扰，最终影响到对用户意图的判断，即对用户意图判断的准确率低下。

上述内容仅用于辅助理解本申请的技术方案，并不代表承认上述内容是现有技术。

发明内容

本申请的主要目的在于提供一种基于BERT模型的意图分析方法、基于BERT模型的意图分析装置、计算机设备以及计算机可读存储介质，旨在解决如何在对用户意图分析的过程中，减少语句中的噪音数据，以提高对用户意图分析的准确率的问题。

为实现上述目的，本申请提供一种基于BERT模型的意图分析方法，包括以下步骤：

获取到语句信息时，利用BERT模型将所述语句信息转换为字向量序列；

利用条件随机场算法生成所述字向量序列对应的标注向量序列；

将所述字向量序列与所述标注向量序列进行融合，得到第一句向量；以及，

利用自注意力机制对所述字向量序列进行处理，得到第二句向量；

将所述第一句向量和所述第二句向量进行加权求和处理，得到第三句向量；

对所述第三句向量进行归一化处理，得到所述语句信息对应的意图信息。

进一步地，所述利用条件随机场算法生成所述字向量序列对应的标注向量序列的步骤包括：

利用条件随机场算法计算所述字向量序列对应的预测概率；

根据所述预测概率生成所述字向量序列对应的标注向量序列。

进一步地，所述将所述第一句向量和所述第二句向量进行加权求和处理，得到第三句向量的步骤包括：

根据所述第一句向量对应的第一准确率和所述第二句向量对应的第二准确率，确定所述第一句向量对应的第一权重和所述第二句向量对应的第二权重，其中，所述第一准确率根据历史第一句向量和历史意图信息之间的相似度确定，所述第二准确率根据历史第二句向量和历史意图信息之间的相似度确定；

基于所述第一权重和所述第二权重，对所述第一句向量和所述第二句向量进行加权求和处理，得到第三句向量。

进一步地，所述对所述第三句向量进行归一化处理，得到所述语句信息对应的意图信息的步骤之后，还包括：

获取所述意图信息对应的响应信息；

根据所述响应信息对所述语句信息对应的业务进行处理。