[发明专利]一种结合元学习机制与特征融合的图像风格迁移方法有效
申请号: | 202010071306.1 | 申请日: | 2020-01-20 |
公开(公告)号: | CN111325681B | 公开(公告)日: | 2022-10-11 |
发明(设计)人: | 程春玲;季苏瑞;闵丽娟;王亚石;杨维荣 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G06T5/00 | 分类号: | G06T5/00;G06T5/50;G06T7/11;G06T7/13;G06N3/08;G06N3/04 |
代理公司: | 南京瑞弘专利商标事务所(普通合伙) 32249 | 代理人: | 彭雄 |
地址: | 210000 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 结合 学习 机制 特征 融合 图像 风格 迁移 方法 | ||
1.一种结合元学习机制与特征融合的图像风格迁移方法,其特征在于,包括以下步骤:
步骤1),预训练编码器:采集预训练图像集,通过训练图像集预训练编码器和解码器,得到预训练好的编码器和解码器,其中,编码器的初始权重通过预训练获得,解码器的权重通过元学习机制直接获得,编码器用于编码图像为特征图并用作损失网络,解码器用于解码特征图为图像,编码器取自VGG_16的前四层,解码器的结构与编码器对称;
步骤2),获取特征图:选取内容图像Ic和风格图像Is,将内容图像Ic和风格图像Is输入步骤1)得到的编码器,提取到内容特征图fc和风格特征图fs,表示高维向量;
步骤3),拉普拉斯滤波操作;对内容特征fc与拉普拉斯算子p做卷积操作,得到拉普拉斯特征图fc',
步骤4),特征选择操作;特征选择函数S(·)作用于风格特征图fs,计算出风格特征图中重要的特征,得到筛选特征图fs',
步骤5),特征融合;拉普拉斯特征图fc'和筛选特征图fs'做卷积运算,得到初步融合特征图fcs,对初步融合特征图fcs和拉普拉斯特征图fc'再做插值计算,得到融合特征图Fcs;
fs'=S(fs)
Fcs=λ·fcs+(1-λ)·fc'
λ∈[0,1]
其中,fcs表示初步融合特征图,Fcs表示融合特征图,表示卷积操作,·表示乘积操作,λ表示插值;
步骤6),利用元学习机制获取解码器权重;对编码器中1_1层、2_1层、3_1层和4_1层的风格特征图fsi进行下采样操作,映射为ωi,直接作为解码器中对应层的权重,其中,ωi表示给定近似最优权重,3×3×Y表示解码器中不同层的权重的大小和维度,X×X×Y表示编码器中不同层的特征图的大小和维度,i的取值为1、2、3、4,分别对应编码器中的1_1层、2_1层、3_1层和4_1层;
步骤7),解码融合特征图为图像;利用得到的权重ωi作为解码器的近似最优权重,将融合特征图Fcs输入VGG_16解码器,得到合成图像Ics;
步骤8),损失计算;利用步骤1)得到的编码器作为损失网络进行内容损失和风格损失计算,具体的表达为:
ltotal=αlc+βls
其中,i的取值为1、2、3、4,分别对应编码器中的1_1层、2_1层、3_1层和4_1层,{ic}表示内容损失层数的集合,{is}表示风格损失层数的集合,n表示总的风格损失的层数,α和β是超参数,lc表示内容损失,ls表示风格损失,ltotal表示总损失,Fi表示第i层的特征图,Gi表示第i层的Gram矩阵,即特征图间的协方差矩阵;
步骤9),迭代编码器的权重;根据得到内容损失和风格损失采用Adam优化器,通过反向传播算法,最小化总损失ltotal,迭代编码器的权重,直至损失趋于平衡,停止迭代,此时得到的权重是编码器的最优权重;同时输出损失趋于平衡时的合成图像。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010071306.1/1.html,转载请声明来源钻瓜专利网。