[发明专利]文本风格迁移系统的训练方法及装置在审
| 申请号: | 202010639197.9 | 申请日: | 2020-07-06 |
| 公开(公告)号: | CN111767744A | 公开(公告)日: | 2020-10-13 |
| 发明(设计)人: | 何苏;王亮;赵薇;刘金龙;柳景明;郭常圳 | 申请(专利权)人: | 北京猿力未来科技有限公司 |
| 主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/253;G06N3/04 |
| 代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 刘晓楠 |
| 地址: | 100102 北京市朝阳区广顺南大*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 风格 迁移 系统 训练 方法 装置 | ||
1.一种文本风格迁移系统的训练方法,其特征在于,所述文本风格迁移系统包括文本风格迁移模型和文本风格分类模型,所述文本风格迁移模型和所述文本风格分类模型包括同一个编码器,所述训练方法包括:
获取训练样本,其中,所述训练样本包括第一风格文本和所述第一风格文本对应的第二风格文本;
将所述第一风格文本和所述第二风格文本输入至所述文本风格迁移模型的编码器和解码器进行训练,将所述第一风格文本输入至所述文本风格分类模型的编码器和分类器进行训练,直至达到训练停止条件。
2.如权利要求1所述的训练方法,其特征在于,将所述第一风格文本和所述第二风格文本输入至所述文本风格迁移模型的编码器和解码器进行训练,包括:
将所述第一风格文本输入至所述编码器,获得所述编码器输出的与所述第一风格文本对应的编码向量;
将所述第二风格文本和所述编码向量经过所述文本风格迁移模型的解码器处理获得所述文本风格迁移模型输出的迁移文本;
根据所述迁移文本和所述第二风格文本计算损失值;
根据所述损失值调整所述文本风格迁移模型的模型参数以训练所述文本风格迁移模型。
3.如权利要求1所述的训练方法,其特征在于,将所述第一风格文本输入至所述文本风格分类模型的编码器和分类器进行训练,包括:
将所述第一风格文本输入至所述编码器,获得所述编码器输出的与所述第一风格文本对应的编码向量;
将所述编码向量经过所述文本风格分类模型的分类器处理获得所述文本风格分类模型输出的正例概率;
根据所述正例概率调整所述文本风格分类模型参数以训练所述文本风格分类模型。
4.如权利要求2或3所述的训练方法,其特征在于,所述编码器包括第一嵌入层和n个依次连接的编码层;
将所述第一风格文本输入至所述编码器,获得所述编码器输出的与所述第一风格文本对应的编码向量,包括:
将所述第一风格文本输入至所述第一嵌入层做嵌入化处理,获得所述第一风格文本对应的嵌入化向量;
将所述嵌入化向量依次输入至每个所述编码层做编码处理,获得最后一个编码层输出的编码向量。
5.如权利要求2所述的训练方法,其特征在于,所述解码器包括第二嵌入层、m个依次连接的解码层和输出层;
将所述第二风格文本和所述编码向量经过所述文本风格迁移模型的解码器处理获得所述文本风格迁移模型输出的迁移文本,包括:
S51、将所述第二风格文本输入至所述第二嵌入层做嵌入化处理,获得初始参考编码向量;
S52、将所述编码向量和所述初始参考编码向量输入至第1个解码层,得到所述第1个解码层输出的解码向量;
S53、将所述解码向量和第j-1个解码层输出的解码向量输入至第j个解码层,得到第j个解码层输出的解码向量,其中2≤j≤m;
S54、将j自增1,判断j是否大于m,若是,则执行步骤S55,若否,继续执行步骤S53;
S55、将第m个解码层输出的解码向量经过输出层的归一化处理,获得对应的迁移文本。
6.如权利要求2所述的训练方法,其特征在于,根据所述损失值调整所述文本风格迁移模型的模型参数,包括:
根据所述损失值调整所述编码器和所述解码器的参数。
7.如权利要求3所述的训练方法,其特征在于,所述分类器包括卷积层、池化层、全连接层和归一化层;
将所述编码向量经过所述文本风格分类模型的分类器处理获得所述文本风格分类模型输出的正例概率,包括:
将所述编码向量输入至所述卷积层做卷积处理,获得卷积向量;
将所述卷积向量经过所述池化层、所述全连接层和所述归一化层处理,获得所述文本风格分类模型输出的正例概率。
8.如权利要求3所述的训练方法,其特征在于,根据所述正例概率调整所述文本风格分类模型参数,包括:
根据所述正例概率调整所述编码器和所述分类器的模型参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京猿力未来科技有限公司,未经北京猿力未来科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010639197.9/1.html,转载请声明来源钻瓜专利网。





