[发明专利]一种基于决策层融合的音视频关键词识别方法有效
申请号: | 201410133414.1 | 申请日: | 2014-04-03 |
公开(公告)号: | CN103943107B | 公开(公告)日: | 2017-04-05 |
发明(设计)人: | 刘宏;范婷;吴平平 | 申请(专利权)人: | 北京大学深圳研究生院 |
主分类号: | G10L15/26 | 分类号: | G10L15/26;G10L15/06;G06F17/30 |
代理公司: | 北京君尚知识产权代理事务所(普通合伙)11200 | 代理人: | 余长江 |
地址: | 518055 广东省深*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于决策层融合的音视频关键词识别方法,其主要包括以下步骤1)录制关键词音视频,得到关键词和非关键词的语音声学特征向量序列和视觉特征向量序列,并据此训练关键词和非关键词的声学模板和视觉模板;2)根据不同声学噪声环境下的音视频,得到声学似然度和视觉似然度,并据此得到声学模态可靠度、视觉模态可靠度和最优权重,并据此训练人工神经网络;3)根据声学模板和视觉模板、人工神经网络,对待测音视频进行并行的基于声学和视觉双模态的二次关键词识别。本发明将声学作用和视觉作用在决策层进行融合,对待测音视频进行并行的基于双模态的二次关键词识别,充分利用声学噪声环境下视觉信息的贡献,提高识别性能。 | ||
搜索关键词: | 一种 基于 决策层 融合 视频 关键词 识别 方法 | ||
【主权项】:
一种基于决策层融合的音视频关键词识别方法,包括如下步骤:1)录制关键词音视频,标注出所述词音视频中关键词和非关键词语音的起止时间点,根据所述关键词和非关键词语音的起止时间点提取所述关键词和所述非关键词的语音声学特征向量序列和视觉特征向量序列,根据所述关键词和所述非关键词的语音声学特征向量序列和视觉特征向量序列训练所述关键词和所述非关键词的声学模板和视觉模板;2)根据不同声学噪声环境下的音视频,得到声学似然度和视觉似然度;根据所述声学似然度和所述视觉似然度得到声学模态可靠度、视觉模态可靠度;根据所述声学模态可靠度和所述视觉模态可靠度得到最优权重;根据所述声学模态可靠度、所述视觉模态可靠度和所述最优权重训练人工神经网络;3)根据步骤1)所述声学模板和所述视觉模板、步骤2)所述人工神经网络,对待测音视频进行并行的基于声学和视觉双模态的二次关键词识别。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学深圳研究生院,未经北京大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410133414.1/,转载请声明来源钻瓜专利网。