[发明专利]实时语音交互处理方法及装置、电子设备、存储介质

权利要求书

1.一种实时语音交互处理方法，其特征在于，包括：

接收语音会话信息，确定所接收的语音会话信息中是否存在预设的敏感内容；

在所述语音会话信息中未存在所述敏感内容时，返回与所述语音会话信息相匹配的语音回复数据；在所述语音会话信息存在所述敏感内容时，返回与所述敏感内容相匹配的语音提醒数据，所述语音提醒数据用于提醒所述语音会话信息中涉及敏感内容。

2.根据权利要求1所述的实时语音交互处理方法，其特征在于，确定所获取的语音会话信息中是否存在预设的敏感内容包括：

将所述语音会话信息转换成文本会话数据；

确定所述文本会话数据是否存在预设的敏感内容。

3.根据权利要求2所述的实时语音交互处理方法，其特征在于，确定所述文本会话数据是否存在预设的敏感内容包括：

获取数据库中的敏感内容，并构建成字典树结构；

基于所述字典树结构匹配所述文本会话数据，得到匹配结果，所述匹配结果表示所述文本会话数据中是否存在预设的敏感内容。

4.根据权利要求3所述的实时语音交互处理方法，其特征在于，所述数据库中的敏感内容，通过以下步骤获取：

获取预先训练的文本分类器；

将待分类的文本会话数据输入到所述文本分类器，由所述文本分类器获取各文本会话数据的分类；所述分类为正常类型和异常类型，所述异常类型是指文本会话数据内包含敏感内容；

从所述分类为异常类型的文本会话数据中提取出敏感内容；

将提取出的敏感内容存储到所述数据库。

5.根据权利要求4所述的实时语音交互处理方法，其特征在于，所述文本分类器通过以下步骤训练，包括：

获取包含不同类型敏感内容的文本会话数据，得到多个文本会话训练集合，其中包含相同类型的敏感内容的文本会话数据构成一个文本会话训练集合；

利用所述文本会话训练集合训练预设的文本分类器，直至所述文本分类器的损失函数的输出值小于设定误差阈值为止。

6.根据权利要求4所述的实时语音交互处理方法，其特征在于，所述文本分类器获取各文本会话数据的分类之后，所述方法还包括：

将分类的预测值大于预测值阈值的文本会话数据进行显示；

获取用户触发操作所选定的文本会话数据；

利用所选定的文本会话数据更新文本会话训练集合，更新后的文本会话训练集合用于重新训练所述文本分类器。

7.根据权利要求3所述的实时语音交互处理方法，其特征在于，所述数据库中的敏感内容，通过以下步骤获取：

检测管理者网页界面内所输入的关键词；

将所述关键词作为敏感内容存入所述数据库。

8.一种实时语音交互处理装置，其特征在于，包括：

敏感内容确定模块，用于接收语音会话信息，确定所接收获取的语音会话信息中是否存在预设的敏感内容；

语音数据回复模块，用于在所述语音会话信息中未存在所述敏感内容时，返回与所述语音会话信息相匹配的语音回复数据；在所述语音会话信息存在所述敏感内容时，返回与所述敏感内容相匹配的语音提醒数据，所述语音提醒数据用于提醒所述语音会话信息中涉及敏感内容。

9.根据权利要求8所述的实时语音交互处理装置，其特征在于，所述敏感内容确定模块包括：

文本数据获取单元，用于将所述语音会话信息转换成文本会话数据；

敏感内容确定单元，用于确定所述文本会话数据是否存在预设的敏感内容。

10.根据权利要求9所述的实时语音交互处理装置，其特征在于，所述敏感内容确定单元包括：

敏感内容获取子单元，用于获取数据库中的敏感内容，并构建成字典树结构；

匹配结果获取子单元，用于基于所述字典树结构匹配所述文本会话数据，得到匹配结果，所述匹配结果表示所述文本会话数据中是否存在预设的敏感内容。