[发明专利]一种结合元学习机制与特征融合的图像风格迁移方法有效

专利信息
申请号: 202010071306.1 申请日: 2020-01-20
公开(公告)号: CN111325681B 公开(公告)日: 2022-10-11
发明(设计)人: 程春玲;季苏瑞;闵丽娟;王亚石;杨维荣 申请(专利权)人: 南京邮电大学
主分类号: G06T5/00 分类号: G06T5/00;G06T5/50;G06T7/11;G06T7/13;G06N3/08;G06N3/04
代理公司: 南京瑞弘专利商标事务所(普通合伙) 32249 代理人: 彭雄
地址: 210000 江苏*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 结合 学习 机制 特征 融合 图像 风格 迁移 方法
【权利要求书】:

1.一种结合元学习机制与特征融合的图像风格迁移方法,其特征在于,包括以下步骤:

步骤1),预训练编码器:采集预训练图像集,通过训练图像集预训练编码器和解码器,得到预训练好的编码器和解码器,其中,编码器的初始权重通过预训练获得,解码器的权重通过元学习机制直接获得,编码器用于编码图像为特征图并用作损失网络,解码器用于解码特征图为图像,编码器取自VGG_16的前四层,解码器的结构与编码器对称;

步骤2),获取特征图:选取内容图像Ic和风格图像Is,将内容图像Ic和风格图像Is输入步骤1)得到的编码器,提取到内容特征图fc和风格特征图fs,表示高维向量;

步骤3),拉普拉斯滤波操作;对内容特征fc与拉普拉斯算子p做卷积操作,得到拉普拉斯特征图fc',

步骤4),特征选择操作;特征选择函数S(·)作用于风格特征图fs,计算出风格特征图中重要的特征,得到筛选特征图fs',

步骤5),特征融合;拉普拉斯特征图fc'和筛选特征图fs'做卷积运算,得到初步融合特征图fcs,对初步融合特征图fcs和拉普拉斯特征图fc'再做插值计算,得到融合特征图Fcs

fs'=S(fs)

Fcs=λ·fcs+(1-λ)·fc'

λ∈[0,1]

其中,fcs表示初步融合特征图,Fcs表示融合特征图,表示卷积操作,·表示乘积操作,λ表示插值;

步骤6),利用元学习机制获取解码器权重;对编码器中1_1层、2_1层、3_1层和4_1层的风格特征图fsi进行下采样操作,映射为ωi,直接作为解码器中对应层的权重,其中,ωi表示给定近似最优权重,3×3×Y表示解码器中不同层的权重的大小和维度,X×X×Y表示编码器中不同层的特征图的大小和维度,i的取值为1、2、3、4,分别对应编码器中的1_1层、2_1层、3_1层和4_1层;

步骤7),解码融合特征图为图像;利用得到的权重ωi作为解码器的近似最优权重,将融合特征图Fcs输入VGG_16解码器,得到合成图像Ics

步骤8),损失计算;利用步骤1)得到的编码器作为损失网络进行内容损失和风格损失计算,具体的表达为:

ltotal=αlc+βls

其中,i的取值为1、2、3、4,分别对应编码器中的1_1层、2_1层、3_1层和4_1层,{ic}表示内容损失层数的集合,{is}表示风格损失层数的集合,n表示总的风格损失的层数,α和β是超参数,lc表示内容损失,ls表示风格损失,ltotal表示总损失,Fi表示第i层的特征图,Gi表示第i层的Gram矩阵,即特征图间的协方差矩阵;

步骤9),迭代编码器的权重;根据得到内容损失和风格损失采用Adam优化器,通过反向传播算法,最小化总损失ltotal,迭代编码器的权重,直至损失趋于平衡,停止迭代,此时得到的权重是编码器的最优权重;同时输出损失趋于平衡时的合成图像。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010071306.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top