[发明专利]一种虚拟角色捏脸的方法、装置、电子设备及存储介质有效
申请号: | 202110697554.1 | 申请日: | 2021-06-23 |
公开(公告)号: | CN113409437B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 杨司琪;高永强 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06T15/20 | 分类号: | G06T15/20;G06V40/16;G06N3/045;G06N3/08;G06V10/766;G06V10/82;A63F13/52;A63F13/822 |
代理公司: | 北京中知法苑知识产权代理有限公司 11226 | 代理人: | 李明 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 虚拟 角色 方法 装置 电子设备 存储 介质 | ||
1.一种虚拟角色捏脸的方法,其特征在于,所述方法包括:
响应于用户的获取请求,获取所述用户的用户人脸图像;
利用训练好的骨骼点生成网络对所述用户人脸图像进行骨骼点参数提取,得到与所述用户人脸图像对应的骨骼点参数;所述骨骼点生成网络利用用户人脸图像样本、以及基于预设骨骼点参数生成的虚拟人脸图像样本训练得到;
基于所述骨骼点参数进行人脸渲染,得到与所述用户人脸图像对应的虚拟人脸图像;
所述骨骼点生成网络的训练过程包括:获取用户人脸图像样本以及基于预设骨骼点参数生成的虚拟人脸图像样本;利用所述骨骼点生成网络包括的特征提取层分别对所述用户人脸图像样本和虚拟人脸图像样本进行特征提取,得到第一图像样本特征和第二图像样本特征;以及利用所述骨骼点生成网络包括的全连接层对所述第二图像样本特征进行骨骼点参数提取,确定与所述虚拟人脸图像样本对应的预测骨骼点参数;基于所述第一图像样本特征和所述第二图像样本特征确定第一损失函数值,以及基于所述预设骨骼点参数和所述预测骨骼点参数,确定第二损失函数值;基于所述第一损失函数值和所述第二损失函数值对所述骨骼点生成网络进行调整,得到训练好的骨骼点生成网络。
2.根据权利要求1所述的方法,其特征在于,所述基于所述骨骼点参数进行人脸渲染,得到与所述用户人脸图像对应的虚拟人脸图像,包括:
将所述骨骼点参数输入到预设渲染引擎以便所述预设渲染引擎基于所述骨骼点参数重建出人脸信息;
接收所述预设渲染引擎重建出的人脸信息,并基于所述人脸信息确定与所述用户人脸图像对应的虚拟人脸图像。
3.根据权利要求1或2所述的方法,其特征在于,所述骨骼点生成网络包括特征提取层和全连接层;所述利用训练好的骨骼点生成网络对所述用户人脸图像进行骨骼点参数提取,得到与所述用户人脸图像对应的骨骼点参数,包括:
将所述用户人脸图像输入到所述骨骼点生成网络包括的特征提取层,得到所述特征提取层输出的图像特征;
将所述特征提取层输出的图像特征输入到所述骨骼点生成网络包括的全连接层,得到所述全连接层输出的骨骼点参数;
基于所述全连接层输出的骨骼点参数,确定与所述用户人脸图像对应的骨骼点参数。
4.根据权利要求1所述的方法,其特征在于,还包括域判别网络,所述基于所述第一图像样本特征和所述第二图像样本特征确定第一损失函数值,包括:
将所述第一图像样本特征和所述第二图像样本特征输入到所述域判别网络中,得到所述域判别网络输出的损失函数值;
基于所述域判别网络输出的损失函数值,确定所述第一损失函数值。
5.根据权利要求4所述的方法,其特征在于,所述基于所述第一损失函数值和所述第二损失函数值对所述骨骼点生成网络进行调整,得到训练好的骨骼点生成网络,包括:
判断所述第一损失函数值和所述第二损失函数值对应的损失函数和值是否小于预设阈值;
若否,则对所述骨骼点生成网络以及所述域判别网络中的任意一个或多个网络进行调整,并基于调整后的网络确定调整后的第一损失函数值和第二损失函数值;
直至调整后的第一损失函数值和第二损失函数值对应的损失函数和值小于预设阈值,得到训练好的网络。
6.根据权利要求4或5所述的方法,其特征在于,所述将所述第一图像样本特征和所述第二图像样本特征输入到所述域判别网络中,得到所述域判别网络输出的损失函数值,包括:
将所述第一图像样本特征输入到所述域判别网络,得到所述域判别网络输出的第一图像类别,并确定所述域判别网络输出的第一图像类别以及用户人脸图像样本指示的第一标注类别之间的第一对比结果;以及,
将所述第二图像样本特征输入到所述域判别网络,得到所述域判别网络输出的第二图像类别,并确定所述域判别网络输出的第二图像类别以及虚拟人脸图像样本指示的第二标注类别之间的第二对比结果;
基于所述第一对比结果和所述第二对比结果,确定所述域判别网络输出的损失函数值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110697554.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:水质检测抽样系统及方法
- 下一篇:具有高效喷药结构的植保无人机