[发明专利]机器审核方法、装置及机器审核服务器

权利要求书

1.一种机器审核方法，其特征在于，包括：

获取待审核对象，以及关于所述待审核对象的审核服务要求；

从审核策略库的白名单策略，图片检索策略或人脸比对策略中，确定与所述审核服务要求对应的策略；其中，所述白名单策略中预设有客户端白名单；所述审核策略库中包括模型审核策略；所述模型审核策略包括多个与不同审核服务要求对应的审核模型，所述审核模型对应有预设模型标签，所述模型标签用于描述所述审核模型的审核类别；所述审核策略库中还包括所述白名单策略，所述图片检索策略和所述人脸比对策略；

将确定出的所述策略配置到所述审核策略中；

从模型审核策略中，确定与所述审核服务要求对应的审核模型；

对每一个确定的所述审核模型，建立所述审核模型的模型标签与服务标签的映射关系；

将确定的所述审核模型和所述映射关系，配置为与所述待审核对象对应的审核策略；

获取所述待审核对象的来源客户端；

判断所述客户端是否属于所述客户端白名单的范围；

若是，将预设比例的所述待审核对象对应的所述服务标签确定为审核正常；将除所述预设比例部分之外的所述待审核对象，根据配置的除所述白名单策略之外的审核策略进行审核。

2.根据权利要求1所述的机器审核方法，其特征在于，在所述将除所述预设比例部分之外的所述待审核对象，根据配置的除所述白名单策略之外的审核策略进行审核的步骤之后，所述方法还包括：

输出审核结果；所述审核结果包括所述待审核对象对应的服务标签，所述服务标签用于描述所述待审核对象的违规类型或合规类型。

3.根据权利要求2所述的机器审核方法，其特征在于，所述服务标签包括多级粒度的子服务标签，所述多级粒度的子服务标签根据所述待审核对象的审核服务要求确定。

4.根据权利要求1所述的机器审核方法，其特征在于，配置的所述审核策略中包括所述模型审核策略；

所述将除所述预设比例部分之外的所述待审核对象，根据配置的除所述白名单策略之外的审核策略进行审核的步骤，包括：

通过所述模型审核策略中确定的所述审核模型，对所述待审核对象的内容进行审核，得到所述审核模型的每个模型标签对应的置信度值；

从每个所述审核模型的所述模型标签中，筛选出最大置信度值对应的所述模型标签；

根据所述映射关系，计算筛选出的所述模型标签对应的所述服务标签；

将计算得到的所述服务标签确定为所述待审核对象的审核结果。

5.根据权利要求1所述的机器审核方法，其特征在于，如果配置的所述审核策略中包括所述白名单策略，所述图片检索策略和所述人脸比对策略中的至少一个；

所述将除所述预设比例部分之外的所述待审核对象，根据配置的除所述白名单策略之外的审核策略进行审核的步骤，包括：

按照所述审核策略的预设优先级，对配置的所述审核策略从高优先级到低优先级进行排序；

通过排序后的所述审核策略，依次对所述待审核对象的内容进行审核。

6.根据权利要求5所述的机器审核方法，其特征在于，所述审核策略的优先级从高到底依次为：所述白名单策略，所述图片检索策略，所述人脸比对策略和所述模型审核策略。

7.根据权利要求1所述的机器审核方法，其特征在于，所述待审核对象为图片，并且，配置的所述审核策略中包括所述图片检索策略；

所述将除所述预设比例部分之外的所述待审核对象，根据配置的除所述白名单策略之外的审核策略进行审核的步骤，包括：

从预设图片样本库中，按预设选取方式选取预设数量的图片样本；

计算所述待审核对象与选取出的所述图片样本的相似度；

将所述相似度超过预设相似度阈值的所述图片样本对应的预设服务标签，确定为所述待审核对象的审核结果。