[发明专利]裁剪语言模型的方法及装置有效
| 申请号: | 200810084614.7 | 申请日: | 2008-03-13 |
| 公开(公告)号: | CN101271450A | 公开(公告)日: | 2008-09-24 |
| 发明(设计)人: | 李剑峰;王海峰;任登君;李国华 | 申请(专利权)人: | 株式会社东芝 |
| 主分类号: | G06F17/27 | 分类号: | G06F17/27 |
| 代理公司: | 北京市中咨律师事务所 | 代理人: | 李峥;刘瑞东 |
| 地址: | 日本*** | 国省代码: | 日本;JP |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 裁剪 语言 模型 方法 装置 | ||
1.一种裁剪语言模型的方法,其中,该语言模型包括多个n元组及其概率,以及多个低阶的元组及其概率;上述方法包括:
根据上述语言模型生成初始的基础模型,该基础模型不包括上述多个n元组及其概率;
利用训练语料库计算上述多个n元组中的每一个对于实际应用的重要性,该训练语料库包括训练数据和参考答案;以及
将上述多个n元组中重要性高的至少一个n元组及其概率加入上述基础模型,作为裁剪后的语言模型。
2.根据权利要求1所述的裁剪语言模型的方法,其中,上述利用训练语料库计算上述多个n元组中的每一个对于实际应用的重要性的步骤包括:
计算上述基础模型对上述训练数据进行上述实际应用时出错的可能性;
计算上述n元组在上述训练语料库中出现的次数;以及
计算上述n元组在上述实际应用中出现的次数;
其中根据上述出错的可能性、上述n元组在上述训练语料库中出现的次数、和上述n元组在上述实际应用中出现的次数,计算上述重要性。
3.根据权利要求2所述的裁剪语言模型的方法,其中,上述利用训练语料库计算上述多个n元组中的每一个对于实际应用的重要性的步骤还包括:
利用上述基础模型计算上述n元组的概率;
其中根据上述出错的可能性、上述n元组在上述训练语料库中出现的次数、上述n元组在上述实际应用中出现的次数、上述n元组在上述语言模型中的概率、和上述n元组的利用上述基础模型计算出的概率,计算上述重要性。
4.根据权利要求3所述的裁剪语言模型的方法,其中,上述实际应用是亚洲语言分词,上述训练数据包括未切分字串,上述参考答案包括对上述未切分字串进行切分的参考词串,以及上述计算上述基础模型对上述训练数据进行上述实际应用时出错的可能性的步骤包括:
计算上述基础模型对上述参考词串进行评价的得分;以及
计算上述基础模型对利用上述基础模型对上述未切分字串进行切分的多个候选词串进行评价的平均得分。
5.根据权利要求4所述的裁剪语言模型的方法,其中,上述计算上述n元组在上述训练语料库中出现的次数的步骤包括:
计算上述n元组在上述参考词串中出现的次数。
6.根据权利要求4所述的裁剪语言模型的方法,其中,上述计算上述n元组在上述实际应用中出现的次数的步骤包括:
计算上述n元组在利用上述基础模型对上述未切分字串进行切分的多个候选词串中出现的平均次数。
7.根据权利要求3所述的裁剪语言模型的方法,其中,上述实际应用是语音识别,上述训练数据包括输入语音,上述参考答案包括对上述输入语音进行识别的参考文本,以及上述计算上述基础模型对上述训练数据进行上述实际应用时出错的可能性的步骤包括:
计算上述基础模型对上述参考文本进行评价的得分;以及
计算上述基础模型对利用上述基础模型对上述输入语音进行识别的多个候选文本进行评价的平均得分。
8.根据权利要求7所述的裁剪语言模型的方法,其中,上述计算上述n元组在上述训练语料库中出现的次数的步骤包括:
计算上述n元组在上述参考文本中出现的次数。
9.根据权利要求7所述的裁剪语言模型的方法,其中,上述计算上述n元组在上述实际应用中出现的次数的步骤包括:
计算上述n元组在利用上述基础模型对上述输入语音进行识别的多个候选文本中出现的平均次数。
10.根据权利要求3所述的裁剪语言模型的方法,其中,上述实际应用是亚洲语言的计算机输入,上述训练数据包括记音符号串,上述参考答案包括对上述记音符号串进行转换的参考词串,以及上述计算上述基础模型对上述训练数据进行上述实际应用时出错的可能性的步骤包括:
计算上述基础模型对上述参考词串进行评价的得分;以及
计算上述基础模型对利用上述基础模型对上述记音符号串进行转换的多个候选词串进行评价的平均得分。
11.根据权利要求10所述的裁剪语言模型的方法,其中,上述计算上述n元组在上述训练语料库中出现的次数的步骤包括:
计算上述n元组在上述参考词串中出现的次数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于株式会社东芝,未经株式会社东芝许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/200810084614.7/1.html,转载请声明来源钻瓜专利网。





