[发明专利]一种用于词向量获取的模型训练方法、装置和存储介质在审

专利信息
申请号: 202010139871.7 申请日: 2020-03-03
公开(公告)号: CN111291564A 公开(公告)日: 2020-06-16
发明(设计)人: 缪畅宇 申请(专利权)人: 腾讯科技(深圳)有限公司
主分类号: G06F40/289 分类号: G06F40/289;G06K9/62;G06N3/08
代理公司: 深圳翼盛智成知识产权事务所(普通合伙) 44300 代理人: 蔡艾莹
地址: 518057 广东省深圳*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 用于 向量 获取 模型 训练 方法 装置 存储 介质
【说明书】:

本申请实施例公开了一种用于词向量获取的模型训练方法、装置和存储介质,所述方法包括:获取用于描述目标对象的对象描述文本、以及对象标签,从多个对象描述词语中,确定出待预测词语、以及多个待输入词语,基于多个待输入词语、以及待预测词语,对词语预测模型进行训练,得到词语预测模型对应的第一模型参数,基于对象描述文本、以及对象标签,对标签预测模型进行训练,得到标签预测模型对应的第二模型参数,基于第一模型参数、以及第二模型参数,对词语预测模型、以及标签预测模型进行交替训练,得到训练后网络模型。通过该方案得到的训练后网络模型,可以获取到同时包括对象描述文本中信息、以及对象标签中信息的目标词向量。

技术领域

本申请涉及计算机技术领域,具体涉及一种用于词向量获取的模型训练方法、装置和存储介质。

背景技术

在互联网内容领域,短视频标题、新闻标题、商品名称等都可以称为短文本,可以应用短文本对短视频、新闻、文章、商品等对象进行描述,如某个标题为“最畅销的口红,某明星带货!”的短视频,该标题就是该短视频所对应的短文本,它简要描述了该短视频的内容。同时,还可以利用标签对短视频、新闻、文章、商品等对象进行描述,该标签一般是人工运营或者算法标注的结果,表明该对象所属的类别。如,某个标题为“最畅销的口红,某明星带货!”的短视频,还可以对应着“美妆”的标签。

在实际应用中,通常需要通过向量的形式对短文本进行表示,由于该向量中包含与短文本相关的信息,因此,该向量可以用于寻找相似内容,或者匹配目标用户等等。

发明内容

本申请实施例提供一种用于词向量获取的模型训练方法、装置和存储介质,通过该方案得到的训练后网络模型,可以获取到同时包括对象描述文本中信息、以及对象标签中信息的目标词向量。

本申请实施例提供一种用于词向量获取的模型训练方法,包括:

获取用于描述目标对象的对象描述文本、以及对象标签,其中,所述对象描述文本中包括多个对象描述词语;

从所述多个对象描述词语中,确定出待预测词语、以及多个待输入词语;

基于所述多个待输入词语、以及所述待预测词语,对词语预测模型进行训练,得到所述词语预测模型对应的第一模型参数;

基于所述对象描述文本、以及所述对象标签,对标签预测模型进行训练,得到所述标签预测模型对应的第二模型参数;

基于所述第一模型参数、以及所述第二模型参数,对所述词语预测模型、以及所述标签预测模型进行交替训练,得到用于获取所述对象描述文本对应的目标词向量的训练后网络模型。

相应的,本申请实施例还提供一种用于词向量获取的模型训练装置,包括:

获取模块,用于获取用于描述目标对象的对象描述文本、以及对象标签,其中,所述对象描述文本中包括多个对象描述词语;

词语确定模块,用于从所述多个对象描述词语中,确定出待预测词语、以及多个待输入词语;

第一训练模块,用于基于所述多个待输入词语、以及所述待预测词语,对词语预测模型进行训练,得到所述词语预测模型对应的第一模型参数;

第二训练模块,用于基于所述对象描述文本、以及所述对象标签,对标签预测模型进行训练,得到所述标签预测模型对应的第二模型参数;

第三训练模块,用于基于所述第一模型参数、以及所述第二模型参数,对所述词语预测模型、以及所述标签预测模型进行交替训练,得到用于获取所述对象描述文本对应的目标词向量的训练后网络模型。

可选的,在一些实施例中,所述第一训练模块可以包括第一预测子模块和第一确定子模块,如下:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010139871.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top