[发明专利]资源审核模型的训练方法、装置、服务器和存储介质

说明书

本发明实施例公开了一种资源审核模型的训练方法、装置、服务器和存储介质。其中，该方法包括：确定预先训练的基准审核模型；采用基准审核模型的原训练样本，以及从候选资源集中动态挖掘的调优样本，对基准审核模型不断进行调优，直至调优后的基准审核模型满足预设调优收敛条件，则将最终调优后的基准审核模型作为资源审核模型，调优样本为对基准审核模型的高违规审核存在正向影响的候选资源。本发明实施例提供的技术方案，通过对该基准审核模型不断进行高违规审核下的调优，逐步避免基准审核模型在高违规审核下的审核误差，从而提升资源审核模型在高违规审核下的高准确性，保证资源审核模型在高违规审核下的审核可信度。

技术领域

本发明实施例涉及视频处理技术领域，尤其涉及一种资源审核模型的训练方法、装置、服务器和存储介质。

背景技术

随着短视频、直播和新闻资讯等多媒体平台的迅速崛起，面向用户传播的多媒体资源与日俱增，此时为了确保多媒体资源传播的内容安全性，对于涉及暴力、血腥、黄赌毒以及危及青少年健康成长等不良导向内容的监管力度也不断提升，通常会采用预先训练的资源审核模型过滤出大量正常的多媒体资源，然后将可能违规的多媒体资源推送给人工审核平台，以协助人工审核。

此时，为了进一步减轻人工审核的负担，资源审核模型还可以将违规得分较高的多媒体资源直接判定为违规资源，无需人工审核，然而由于训练样本中部分资源数据的标签模糊不容易界定，或者标注含有噪声，使得所训练出的资源审核模型无法保证违规审核的高准确率，因此资源审核模型输出的违规得分较高的多媒体资源中可能仍然存在与违规内容极为相似的正常资源，因此为了保证资源审核模型进行违规审核的高准确率，现有技术中通常会在模型训练过程中通过调整用于计算样本损失的权重来着重关注训练样本中的正样本，或者通过从训练样本中挖掘困难样本，来对资源审核模型进行增强训练，然而上述方案仍无法从违规得分较高的多媒体资源准确区分出难负样本和易正样本，也就无法保证资源审核模型对于高违规得分下多媒体资源进行审核的高准确率。

发明内容

本发明实施例提供了一种资源审核模型的训练方法、装置、服务器和存储介质，提高资源审核模型在高违规审核下的准确率。

第一方面，本发明实施例提供了一种资源审核模型的训练方法，该方法包括：

确定预先训练的基准审核模型；

采用所述基准审核模型的原训练样本，以及从候选资源集中动态挖掘的调优样本，对所述基准审核模型不断进行调优，直至调优后的基准审核模型满足预设调优收敛条件，则将最终调优后的基准审核模型作为资源审核模型，所述调优样本为对所述基准审核模型的高违规审核存在正向影响的候选资源。

第二方面，本发明实施例提供了一种资源审核模型的训练装置，该装置包括：

基准模型确定模块，用于确定预先训练的基准审核模型；

模型调优训练模块，用于采用所述基准审核模型的原训练样本，以及从候选资源集中动态挖掘的调优样本，对所述基准审核模型不断进行调优，直至调优后的基准审核模型满足预设调优收敛条件，则将最终调优后的基准审核模型作为资源审核模型，所述调优样本为对所述基准审核模型的高违规审核存在正向影响的候选资源。

第三方面，本发明实施例提供了一种服务器，该服务器包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所述的资源审核模型的训练方法。

第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例所述的资源审核模型的训练方法。