[发明专利]一种基于跨模态注意力机制的视听事件定位方法及装置有效
| 申请号： | 202110235810.5 | 申请日： | 2021-03-03 |
| 公开（公告）号： | CN112989977B | 公开（公告）日： | 2022-09-06 |
| 发明（设计）人： | 于家硕;程颖;冯瑞 | 申请（专利权）人： | 复旦大学 |
| 主分类号： | G06V20/40 | 分类号： | G06V20/40;G06V10/764;G06V10/82;G06N3/04;G06N3/08;G10L15/16 |
| 代理公司： | 上海德昭知识产权代理有限公司 31204 | 代理人： | 郁旦蓉 |
| 地址： | 200433 *** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于跨模态注意力机制的视听事件定位方法及装置，用于对目标音视频中的事件进行识别与定位，其特征在于，包括如下步骤：对目标音视频进行预处理得到图像特征以及音频特征；基于图像特征以及音频特征利用预先训练好的基于跨模态注意力机制的神经网络模型进行识别与定位，从而得出目标音视频中每一个时刻的事件类别。其中，神经网络模型包括跨模态注意力机制模块、单模态自注意力机制模块、循环神经网络模块以及分类模块。跨模态注意力机制模块用于获取视频模态与音频模态间的信息，并使用一个模态的信息处理另一模态的信息，实现模态间的信息交互。单模态自注意力机制模块以及循环神经网络模块用于捕捉模态内的长距离依赖关系。 | ||
| 搜索关键词： | 一种 基于 跨模态 注意力 机制 视听 事件 定位 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于复旦大学，未经复旦大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110235810.5/，转载请声明来源钻瓜专利网。
