[发明专利]机器审核方法、装置及机器审核服务器

说明书

本发明提供了一种机器审核方法、装置及机器审核服务器，涉及机器审核技术领域，首先获取待审核对象，以及关于该待审核对象的审核服务要求；然后根据该审核服务要求，从预设的审核策略库中，配置与待审核对象对应的审核策略；进而通过配置的审核策略，对待审核对象的内容进行审核。本发明根据客户的审核服务要求，对待审核对象的审核策略进行相应地配置，以根据配置的审核策略对审核对象进行审核，提高了机器审核的策略配置灵活度。

技术领域

本发明涉及机器审核技术领域，尤其是涉及一种机器审核方法、装置及机器审核服务器。

背景技术

移动互联网时代，互联网上的各类数据呈现爆炸式增长，大量的图片、视频等内容持续被创作、传播。

为了更好监管网络内容，通常需要对相关的内容平台进行人工审核和机器审核。对于机器审核，它可以根据客户的审核需求，预先配置服务所用的审核模型，模型输出标签与服务输出标签的映射关系，以及模型复审阈值，以保证机器尽可能召回违规内容。

但是，现有机器审核方式的审核策略配置，对所有客户都使用系统默认的审核策略，配置缺乏灵活性。

发明内容

有鉴于此，本发明的目的在于提供一种机器审核方法、装置及机器审核服务器，可以根据客户需求灵活配置机器审核的审核策略。

第一方面，本发明实施例提供了一种机器审核方法，包括：获取待审核对象，以及关于该待审核对象的审核服务要求；根据该审核服务要求，从预设的审核策略库中，配置与待审核对象对应的审核策略；通过配置的审核策略，对待审核对象的内容进行审核。

在本发明较佳的实施例中，在上述通过配置的审核策略，对该待审核对象的内容进行审核的步骤之后，该方法还包括：输出审核结果；该审核结果包括待审核对象对应的服务标签，该服务标签用于描述该待审核对象的违规类型或合规类型。

在本发明较佳的实施例中，上述服务标签包括多级粒度的子服务标签，该多级粒度的子服务标签根据该待审核对象的审核服务要求确定。

在本发明较佳的实施例中，上述审核策略库中包括模型审核策略；该模型审核策略包括多个与不同审核服务要求对应的审核模型，该审核模型对应有预设模型标签，该模型标签用于描述该审核模型的审核类别。

在本发明较佳的实施例中，上述根据该审核服务要求，从预设的审核策略库中，配置与该待审核对象对应的审核策略的步骤，包括：从该模型审核策略中，确定与该审核服务要求对应的审核模型；对每一个确定的审核模型，建立该审核模型的模型标签与服务标签的映射关系；将确定的审核模型和映射关系，配置为与该待审核对象对应的审核策略。

在本发明较佳的实施例中，上述配置的审核策略中包括模型审核策略；上述通过配置的审核策略，对该待审核对象的内容进行审核的步骤，包括：通过模型审核策略中确定的审核模型，对该待审核对象的内容进行审核，得到该审核模型的每个模型标签对应的置信度值；从每个审核模型的模型标签中，筛选出最大置信度值对应的模型标签；根据上述映射关系，计算筛选出的模型标签对应的服务标签；将计算得到的服务标签确定为该待审核对象的审核结果。

在本发明较佳的实施例中，上述审核策略库中还包括白名单策略，图片检索策略和人脸比对策略；在从模型审核策略中，确定与该审核服务要求对应的审核模型的步骤之前，该方法还包括：从上述白名单策略，图片检索策略或人脸比对策略中，确定与该审核服务要求对应的策略；将确定出的策略配置到审核策略中。

在本发明较佳的实施例中，如果配置的审核策略中包括白名单策略，图片检索策略和人脸比对策略中的至少一个；上述通过配置的审核策略，对待审核对象的内容进行审核的步骤，包括：按照该审核策略的预设优先级，对配置的审核策略从高优先级到低优先级进行排序；通过排序后的审核策略，依次对待审核对象的内容进行审核。