[发明专利]网络内容审核方法、装置、电子设备、及存储介质

权利要求书

1.一种网络内容审核方法，其特征在于，包括：

获取待审核的网页图像；

将所述网页图像输入至预先训练的内容审核模型，获取所述内容审核模型输出的第一结果信息和第二结果信息，其中，所述第一结果信息用于表示所述网页图像显示的内容涉嫌违规的类型，所述第二结果信息用于表示所述网页图像显示的内容属于所述第一结果信息所显示的类型的概率。

2.根据权利要求1所述的方法，其特征在于，所述内容审核模型通过如下方法训练得到：

获取训练样本集合，其中，训练样本包括网页图像和用于表示网页图像显示的内容涉嫌违规的类型的第一标注信息、以及用于表示网页图像显示的内容属于所述第一标注信息对应类型的概率的第二标注信息；

确定初始化的内容审核模型，其中所述初始化的内容审核模型包括用于输出网页图像显示的内容涉嫌违规的类型的第一目标层和用于表示所述网页图像显示的内容涉嫌违规的概率的第二目标层；

利用机器学习的方法，将所述训练样本集合中的训练样本中的网页图像作为初始化的内容审核模型的输入，将与输入的网页图像对应的第一标注信息和第二标注信息作为初始化的内容审核模型的期望输出，训练得到所述内容审核模型。

3.根据权利要求2所述的方法，其特征在于，所述初始化的内容审核模型包括卷积神经网络模型。

4.根据权利要求2所述的方法，其特征在于，在获取训练样本集合之后还包括：

对所述训练样本集合中包含的训练样本，按照训练样本中的网页图像所属的违规的类别进行统计；

根据统计结果确定训练样本数量少的至少一个类别，对所述至少一个类别的训练样本进行过采样处理，以使所述训练样本集合中各类别的训练样本数量均衡。

5.根据权利要求2所述的方法，其特征在于，在获取训练样本集合之后还包括：

对所述训练样本集合中包含的训练样本，按照训练样本中的图像尺寸进行统计；

根据统计结果确定训练样本数量少的至少一个尺寸，对所述至少一个尺寸的训练样本进行过采样处理，以使所述训练样本集合中各尺寸的训练样本数量均衡。

6.根据权利要求2所述的方法，其特征在于，在获取训练样本集合之后还包括：

对所述训练样本集合中包含的训练样本，确定难样本的数量和易样本的数量；

对数量较少的难样本或易样本进行过采样处理，以使所述训练样本集合中难样本的数量与易样本的数量均衡。

7.根据权利要求2所述的方法，其特征在于，获取训练样本集合包括：

从网站爬取多个网页图片，对所述多个网页图片进行去重操作，将去重操作后保留的图片进行标注后作为训练样本以形成所述训练样本集合。

8.根据权利要求7所述的方法，其特征在于，对所述多个网页图片进行去重操作包括：

采用差异值哈希算法对所述多个网页图片进行去重操作。

9.一种网络内容审核装置，其特征在于，包括：

图像获取单元，用于获取待审核的网页图像；

图像审核单元，用于将所述网页图像输入至预先训练的内容审核模型，获取所述内容审核模型输出的第一结果信息和第二结果信息，其中，所述第一结果信息用于表示所述网页图像显示的内容涉嫌违规的类型，所述第二结果信息用于表示所述网页图像显示的内容属于所述第一结果信息所显示的类型的概率。