[发明专利]一种文本标点确定方法及装置有效
| 申请号: | 201910157032.5 | 申请日: | 2019-03-01 |
| 公开(公告)号: | CN109858038B | 公开(公告)日: | 2023-04-18 |
| 发明(设计)人: | 孙境廷;戚婷;孔常青 | 申请(专利权)人: | 科大讯飞股份有限公司 |
| 主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/166;G06N3/08 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 张小娜;王宝筠 |
| 地址: | 230088 安徽*** | 国省代码: | 安徽;34 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 标点 确定 方法 装置 | ||
1.一种文本标点确定方法,其特征在于,包括:
获取目标文本的至少两种标点添加结果;
根据所述目标文本的至少两种标点添加结果,判断是否存在标点槽位,所述标点槽位为所述目标文本中存在标点添加争议的位置;
若存在,则确定所述标点槽位处唯一的标点添加结果;
其中,所述根据所述目标文本的至少两种标点添加结果,判断是否存在标点槽位,包括:
根据所述目标文本的至少两种标点添加结果,确定所述目标文本中同一分词后的位置上的标点添加种类;
根据所述同一分词后的位置上的标点添加种类,判断所述同一分词后的位置是否为标点槽位;
其中,所述确定所述标点槽位处唯一的标点添加结果,包括:
利用所述标点槽位对应的槽位特征,确定所述标点槽位处唯一的标点添加结果。
2.根据权利要求1所述的方法,其特征在于,所述获取目标文本的至少两种标点添加结果,包括:
生成所述目标文本的不同标点添加结果,并生成每一标点添加结果的得分;
选择得分在前的至少两种标点添加结果;或者,若所述目标文本为带标点的文本,则将所述目标文本自带的标点添加结果以及得分在前的标点添加结果组成至少两种标点添加结果。
3.根据权利要求2所述的方法,其特征在于,所述生成所述目标文本的不同标点添加结果,包括:
利用预先构建的标点预测模型,预测得到所述目标文本的不同标点添加结果。
4.根据权利要求3所述的方法,其特征在于,按照下述方式构建所述标点预测模型:
获取训练样本集,所述训练样本集中包括带标点的各个样本文本;
将各个样本文本进行分词处理,得到各个样本分词;
利用各个样本文本中的标点信息,对各个样本分词进行训练,得到各个样本分词各自的带有标点信息的词向量特征和/或词性向量特征;
利用各个样本分词的词向量特征和/或词性向量特征,构建所述标点预测模型。
5.根据权利要求4所述的方法,其特征在于,所述利用各个样本分词的词向量特征和/或词性向量特征,构建所述标点预测模型,包括:
利用各个样本分词的词向量特征和/或词性向量特征、以及断句特征,构建所述标点预测模型。
6.根据权利要求1所述的方法,其特征在于,所述槽位特征包括以下一项或多项特征:
所述标点槽位的左右两个第一位置之间的文本语义信息,所述第一位置是与所述标点槽位相邻的另一标点槽位或非标点槽位;
所述标点槽位的左右两个第二位置与所述标点槽位之间的距离信息,所述第二位置是与所述标点槽位相邻的非标点槽位;
所述目标文本所属的说话人的断句习惯;
所述标点槽位处的各个标点添加结果的语言模型得分。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述确定所述标点槽位处唯一的标点添加结果,包括:
从所述标点槽位处的各个标点添加结果中,选择一个标点添加结果。
8.一种文本标点确定装置,其特征在于,包括:
添加结果获取单元,用于获取目标文本的至少两种标点添加结果;
标点槽位判断单元,用于根据所述目标文本的至少两种标点添加结果,判断是否存在标点槽位,所述标点槽位为所述目标文本中存在标点添加争议的位置;
添加结果确定单元,用于若根据所述目标文本的至少两种标点添加结果,判断出存在标点槽位,则确定所述标点槽位处唯一的标点添加结果;
其中,所述标点槽位判断单元包括:
添加种类确定子单元,用于根据所述目标文本的至少两种标点添加结果,确定所述目标文本中同一分词后的位置上的标点添加种类;
标点槽位判断子单元,用于根据所述同一分词后的位置上的标点添加种类,判断所述同一分词后的位置是否为标点槽位;
其中,所述添加结果确定单元具体用于:
利用所述标点槽位对应的槽位特征,确定所述标点槽位处唯一的标点添加结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科大讯飞股份有限公司,未经科大讯飞股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910157032.5/1.html,转载请声明来源钻瓜专利网。





