[发明专利]模型训练方法、多任务联合预测方法、装置、设备及介质在审
申请号: | 202210021749.9 | 申请日: | 2022-01-10 |
公开(公告)号: | CN114371937A | 公开(公告)日: | 2022-04-19 |
发明(设计)人: | 申世伟;李家宏 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京铭硕知识产权代理有限公司 11286 | 代理人: | 徐璐璐;苏银虹 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 任务 联合 预测 装置 设备 介质 | ||
本公开提供了一种模型训练方法、多任务联合预测方法、装置、设备及介质。训练方法包括:获取多媒体训练样本,每个多媒体训练样本包括样本多媒体资源、样本任务标签和样本状态标签;将样本多媒体资源输入特征提取模型进行特征提取,得到样本多媒体资源的特征;将样本多媒体资源的特征和样本任务标签输入条件概率模型进行预测,得到样本多媒体资源的预测状态;将样本多媒体资源的特征和样本状态标签输入后验概率模型进行预测,得到样本多媒体资源的预测分类任务结果;基于样本多媒体资源的样本任务标签、样本状态标签、预测分类任务结果和预测状态,确定多任务联合模型的损失函数;基于损失函数调整多任务联合模型的模型参数。
技术领域
本公开总体说来涉及电子技术领域,更具体地讲,涉及一种模型训练方法、多任务联合预测方法、装置、设备及介质。
背景技术
针对同一问题可以定义多种不同的判定规则,例如,不同国家针对同一判定问题所定义的判定规则既有相似又有不同。相应地,不同判定规则可对应不同的预测任务,每个预测任务用于按照所对应的判定规则对样本的判定结果进行预测。
此外,即使针对同一问题所定义的判定规则相同,但不同域(例如,不同国家)针对该同一问题所使用的数据的分布也不同。相应地,不同域可对应不同的预测任务,每个预测任务用于按照所对应的域的数据分布情况对样本的判定结果进行预测。
图1示出了相关技术中常用的特征硬共享模式的多任务联合模型,A、B、C分别为三种任务的输出侧,例如,这三种任务针对同一判定问题,但这三种任务对应的判定规则各不相同或对应的域各不相同,可以看出,针对现有的多任务联合模型,通过不同的输出侧来区分不同任务。因此,现有的多任务联合模型的效果、扩展性还有待提高。
发明内容
本公开的示例性实施例在于提供一种模型训练方法、多任务联合预测方法、装置、设备及介质,提高了多任务联合模型的效果和扩展性。
根据本公开实施例的第一方面,提供一种多任务联合模型的训练方法,所述多任务联合模型包括特征提取模型、条件概率模型和后验概率模型,所述训练方法包括:获取多媒体训练样本,其中,每个所述多媒体训练样本包括样本多媒体资源、样本任务标签和样本状态标签;所述样本任务标签用于表征样本多媒体资源所对应的实际分类任务,所述样本状态标签用于表征在所述实际分类任务下样本多媒体资源的实际状态;将所述样本多媒体资源输入所述特征提取模型进行特征提取,得到所述样本多媒体资源的特征;将所述样本多媒体资源的特征和所述样本任务标签输入所述条件概率模型进行预测,得到所述样本多媒体资源的预测状态;将所述样本多媒体资源的特征和所述样本状态标签输入所述后验概率模型进行预测,得到所述样本多媒体资源的预测分类任务结果;基于所述样本多媒体资源的样本任务标签、样本状态标签、预测分类任务结果和预测状态,确定所述多任务联合模型的损失函数;基于所述损失函数调整所述多任务联合模型的模型参数,以对所述多任务联合模型进行训练。
可选地,所述将所述样本多媒体资源的特征和所述样本任务标签输入所述条件概率模型进行预测,得到所述样本多媒体资源的预测状态的步骤包括:获取所述样本任务标签所对应的分类任务的特征;将所述分类任务的特征和所述样本多媒体资源的特征两者输入第一拼接层或第一注意力网络,得到第一联合特征;将所述第一联合特征输入第一全连接层,得到第一全连接层输出的在所述分类任务下所述样本多媒体资源的预测状态。
可选地,所述获取所述样本任务标签所对应的分类任务的特征的步骤包括:将第一矩阵中与所述分类任务对应的位置处的嵌入特征,作为所述分类任务的特征;其中,所述第一矩阵中的各个行与各个分类任务一一对应;其中,在基于所述损失函数调整所述多任务联合模型的模型参数的步骤中,根据所述损失函数调整第一矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210021749.9/2.html,转载请声明来源钻瓜专利网。