[发明专利]基于人工智能的音频生成方法、装置、设备及存储介质在审
申请号: | 202110620109.5 | 申请日: | 2021-06-03 |
公开(公告)号: | CN113822017A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 郑艺斌;李新辉;苏文超;卢鲤 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/126 | 分类号: | G06F40/126;G06F16/33;G06F16/683;G06N3/04;G06N3/08 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 赵翠萍;张颖玲 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 人工智能 音频 生成 方法 装置 设备 存储 介质 | ||
1.一种基于人工智能的音频生成方法,其特征在于,所述方法包括:
对目标对象的多个音频数据进行采样处理,得到所述目标对象的参考音频数据;
对所述目标对象的参考音频数据进行音频编码处理,得到所述参考音频数据的参考嵌入向量;
对所述参考音频数据的参考嵌入向量进行基于音色的注意力处理,得到所述目标对象的音色嵌入向量;
对目标文本进行文本编码处理,得到所述目标文本的内容嵌入向量;
基于所述目标对象的音色嵌入向量以及所述目标文本的内容嵌入向量进行合成处理,得到符合所述目标对象的音色且与所述目标文本对应的音频数据。
2.根据权利要求1所述的方法,其特征在于,所述对所述参考音频数据的参考嵌入向量进行基于音色的注意力处理,得到所述目标对象的音色嵌入向量,包括:
对所述参考音频数据的参考嵌入向量进行基于对象音色的嵌入空间的映射处理,得到多个所述对象音色的权重;
基于多个所述对象音色的权重,对多个所述对象音色的嵌入向量进行加权求和处理,得到所述目标对象的音色嵌入向量。
3.根据权利要求1所述的方法,其特征在于,所述对所述目标对象的参考音频数据进行音频编码处理,得到所述参考音频数据的参考嵌入向量,包括:
对所述目标对象的参考音频数据进行卷积处理,得到所述参考音频数据的卷积嵌入向量;
对所述参考音频数据的卷积嵌入向量进行前向编码处理,得到所述参考音频数据的参考嵌入向量。
4.根据权利要求3所述的方法,其特征在于,
所述音频编码是通过参考编码器实现的,所述参考编码器包括多个级联的卷积层;
所述对所述目标对象的参考音频数据进行卷积处理,得到所述参考音频数据的卷积嵌入向量,包括:
通过所述多个级联的卷积层中的第一个卷积层,对所述目标对象的参考音频数据进行卷积处理;
将所述第一个卷积层的卷积结果输出到后续级联的卷积层,以在所述后续级联的卷积层中继续进行卷积处理和卷积结果输出,直至输出到最后一个卷积层,并
将所述最后一个卷积层输出的卷积结果作为所述参考音频数据的卷积嵌入向量。
5.根据权利要求3所述的方法,其特征在于,
所述音频编码是通过参考编码器实现的,所述参考编码器包括循环神经网络;
所述对所述参考音频数据的卷积嵌入向量进行前向编码处理,得到所述参考音频数据的参考嵌入向量,包括:
基于所述循环神经网络的隐藏向量以及所述参考音频数据的卷积嵌入向量进行向量更新处理,得到所述参考音频数据的更新信息;
基于所述循环神经网络的隐藏向量以及所述参考音频数据的卷积嵌入向量进行向量重置处理,得到所述参考音频数据的重置信息;
基于所述参考音频数据的更新信息以及所述参考音频数据的重置信息,对所述参考音频数据的卷积嵌入向量进行上下文编码处理,得到所述参考音频数据的参考嵌入向量。
6.根据权利要求5所述的方法,其特征在于,所述基于所述循环神经网络的隐藏向量以及所述参考音频数据的卷积嵌入向量进行向量更新处理,得到所述参考音频数据的更新信息,包括:
对所述循环神经网络的隐藏向量以及所述参考音频数据的卷积嵌入向量进行拼接处理,得到拼接向量;
对所述拼接向量进行基于更新门的映射处理,得到所述参考音频数据的更新信息。
7.根据权利要求5所述的方法,其特征在于,所述基于所述参考音频数据的更新信息以及所述参考音频数据的重置信息,对所述参考音频数据的卷积嵌入向量进行上下文编码处理,得到所述参考音频数据的参考嵌入向量,包括:
基于所述目标对象的重置信息、所述循环神经网络的隐藏向量以及所述目标对象的卷积嵌入向量进行基于候选向量的映射处理,得到所述参考音频数据的候选嵌入向量;
基于所述目标对象的更新信息、所述循环神经网络的隐藏向量以及所述参考音频数据的候选嵌入向量进行向量映射处理,得到所述参考音频数据的参考嵌入向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110620109.5/1.html,转载请声明来源钻瓜专利网。