[发明专利]基于生成对抗网络的张嘴笑表情生成方法、装置以及设备在审
| 申请号: | 202310152329.9 | 申请日: | 2023-02-22 |
| 公开(公告)号: | CN116109477A | 公开(公告)日: | 2023-05-12 |
| 发明(设计)人: | 占小路;陈进山;罗铖;刘洛麒 | 申请(专利权)人: | 厦门美图之家科技有限公司 |
| 主分类号: | G06T3/00 | 分类号: | G06T3/00;G06V40/16;G06V10/25;G06V10/764;G06V10/82;G06N3/045;G06N3/0464;G06N3/0475;G06N3/09;G06N3/094;G06N3/084 |
| 代理公司: | 厦门仕诚联合知识产权代理事务所(普通合伙) 35227 | 代理人: | 陈蓓蓓 |
| 地址: | 361000 福建省厦门市*** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 生成 对抗 网络 张嘴 表情 方法 装置 以及 设备 | ||
1.一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述方法包括:
对采集的原始人脸图以及对应所述原始人脸图的张嘴笑目标图进行预处理,将预处理后的所述原始人脸图作为训练数据图像,将预处理后的所述张嘴笑目标图作为目标监督图像;
将所述训练数据图像输入包括编码器以及stylegan2网络所构建的模型中并在所述目标监督图像的监督下、基于预设损失函数进行训练,得到张嘴笑表情生成模型;
获取待处理图像并输入所述张嘴笑表情生成模型,得到具有张嘴笑表情的结果生成图。
2.根据权利要求1所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述对采集的原始人脸图以及对应所述原始人脸图的张嘴笑目标图进行预处理,包括:
对所述原始人脸图以及所述张嘴笑目标图进行几何操作、以及亮度和噪声扰动,其中,所述几何操作包括裁剪、平移以及左右翻转。
3.根据权利要求1所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述stylegan2网络包括生成器以及判别器;所述将所述训练数据图像输入包括编码器以及stylegan2网络所构建的模型中并在所述目标监督图像的监督下、基于预设损失函数进行训练,包括:
通过所述编码器对所述训练数据图像进行特征提取并映射至隐空间,输出第一图像;
将所述第一图像输入所述生成器进行脸部细节生成,输出第二图像;
将所述第二图像输入所述判别器中并基于所述目标监督图像进行判别。
4.根据权利要求3所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述通过所述编码器对所述训练数据图像进行特征提取并映射至隐空间,包括:
通过所述编码器对所述训练数据图像进行9次卷积下采样操作。
5.根据权利要求3所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述将所述第一图像输入所述生成器进行脸部细节生成,包括:
通过所述生成器对所述第一图像进行9次卷积上采样操作。
6.根据权利要求3所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述张嘴笑表情生成模型还包括预训练的人脸属性分类器;所述将所述训练数据图像输入包括编码器以及stylegan2网络所构建的模型中并在所述目标监督图像的监督下、基于预设损失函数进行训练,包括:
通过所述人脸属性分类器对所述第二图像中根据预设的感兴趣区域的不同人脸区域进行分类。
7.根据权利要求1所述的一种基于生成对抗网络的张嘴笑表情生成方法,其特征在于,所述预设损失函数为Loss=θ1Losscls+θ2Lossl1+θ3Losspercep+LossG,θ1、θ2、θ3为损失权重;其中,
Losscls=Y-roi*Y'2,式中,roi表示预先设定感兴趣区域的二值图,Y表示将roi与G相乘即感兴趣区域分类结果输入经过预训练的人脸属性分类器得到的当前分类结果,G表示生成器各层的输出结果上采样至同一尺寸并按通道拼接结果,Y'表示所述目标监督图像对应的像素分类结果;
Lossl1=||Xg-Xr||2,式中,Xg表示生成器的输出,Xr表示所述目标监督图像;
式中,j表示感知损失网络的第j层,Cj、Hj、Wj为第j层特征图大小;
其中,式中,C·表示判别器的输出,Ex·表示样本的平均值,Xr表示所述目标监督图像。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门美图之家科技有限公司,未经厦门美图之家科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310152329.9/1.html,转载请声明来源钻瓜专利网。





