[发明专利]基于SN的多对多说话人转换方法有效
申请号: | 201910268565.0 | 申请日: | 2019-04-04 |
公开(公告)号: | CN110060657B | 公开(公告)日: | 2023-01-31 |
发明(设计)人: | 李燕萍;徐东祥;张燕;曹盼 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G10L13/04 | 分类号: | G10L13/04;G10L13/06;G10L15/06;G10L25/18 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 210003 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 sn 说话 转换 方法 | ||
1.一种基于SN的多对多说话人转换方法,其特征在于包括训练阶段和转换阶段,所述训练阶段包括以下步骤:
(1.1)获取训练语料,训练语料由多名说话人的语料组成,包含源说话人和目标说话人;
(1.2)将所述的训练语料通过WORLD语音分析/合成模型,提取出各说话人语句的频谱包络特征x、非周期性特征以及基频特征F0;
(1.3)将源说话人的频谱包络特征xs、目标说话人的频谱包络特征xt、源说话人标签特征cs以及目标说话人标签特征ct,输入到STARGAN-ResNet网络进行训练;所述的STARGAN-ResNet 网络由生成器G、鉴别器D和分类器C组成,所述的生成器G由编码网络和解码网络构成,在编码网络与解码网络之间搭建三层ResNet,在生成器G、鉴别器D和分类器C的每层网络间采用Switchable Norm进行数据标准化;
(1.4)训练过程使生成器的损失函数、鉴别器的损失函数、分类器的损失函数尽量小,直至设置的迭代次数,从而得到训练好的STARGAN-ResNet网络;
(1.5)构建从源说话人的语音基频到目标说话人的语音基频的基频转换函数;
所述转换阶段包括以下步骤:
(2.1)将待转换语料中源说话人的语音通过WORLD语音分析/合成模型提取出转换阶段的源说话人的频谱包络特征xs′、转换阶段的源说话人的非周期性特征和转换阶段的源说话人的基频特征;
(2.2)将上述转换阶段的源说话人的频谱包络特征xs′、转换阶段的目标说话人标签特征ct′输入(1.4)中训练好的STARGAN-ResNet网络,重构出转换阶段的重构的目标说话人的频谱包络特征xtc′;
(2.3)通过(1.5)得到的基频转换函数,将(2.1)中提取出的转换阶段的源说话人的基频特征转换为转换阶段的目标说话人的基频特征;
(2.4)将(2.2)中得到的转换阶段的重构的目标说话人的频谱包络特征xtc′、(2.3)中得到的转换阶段的目标说话人的基频特征和(2.1)中提取的转换阶段的源说话人的非周期性特征通过WORLD语音分析/合成模型,合成得到转换后的说话人语音。
2.根据权利要求1所述的基于SN的多对多说话人转换方法,其特征在于:步骤(1.3)和(1.4)中的训练过程包括以下步骤:
(1)将源说话人的频谱包络特征xs输入生成器G的编码网络,得到说话人无关的语义特征G(xs);
(2)将上述得到的说话人无关的语义特征G(xs)与目标说话人标签特征ct一同输入到生成器G的解码网络进行训练,在训练过程中最小化生成器G的损失函数,从而得到重构的目标说话人的频谱包络特征xtc;
(3)将上述得到的重构的目标说话人的频谱包络特征xtc,再次输入到生成器G的编码网络,得到重构的说话人无关的语义特征G(xtc);
(4)将上述得到的重构的说话人无关的语义特征G(xtc)与源说话人标签特征cs输入到生成器G的解码网络进行训练,在训练过程中最小化生成器G的损失函数,得到重构的源说话人的频谱包络特征xsc;
(5)将重构的目标说话人的频谱包络特征xtc、目标说话人的频谱包络特征xt,以及目标说话人标签特征ct一同输入到鉴别器D中进行训练,最小化鉴别器的损失函数;
(6)将重构的目标说话人的频谱包络特征xtc和目标说话人的频谱包络特征xt输入分类器C进行训练,最小化分类器的损失函数;
(7)回到步骤(1)重复上述步骤,直至达到设置的迭代次数,从而得到训练好的STARGAN-ResNet网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910268565.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:模型管理和语音合成方法、装置和系统及存储介质
- 下一篇:一种车辆启动引导装置