[发明专利]不良信息检测方法、系统、电子设备和可读存储介质

权利要求书

1.一种不良信息检测方法，其特征在于，所述方法包括：

获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；

将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；

对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；

对所述二级检测结果对应的视频图像执行处理流程。

2.根据权利要求1所述的方法，其特征在于，所述一级检测模型包括第一模型和第二模型，所述第一模型和第二模型分别用于检测所述视频图像中的涉黄信息和涉暴信息。

3.根据权利要求2所述的方法，其特征在于，所述将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果包括：

将所述视频帧序列分别输入至第一模型和第二模型，确定对应的第一检测结果和第二检测结果；

根据所述第一检测结果和第二检测结果确定所述一级检测结果。

4.根据权利要求1所述的方法，其特征在于，所述对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果包括：

调用内容审核平台；

基于所述内容审核平台输出的识别结果确定所述二级检测结果。

5.根据权利要求1所述的方法，其特征在于，所述对所述二级检测结果对应的视频图像执行处理流程包括：

对所述二级检测结果对应的视频图像进行标记；

对标记后的视频图像进行删除或打码。

6.根据权利要求5所述的方法，其特征在于，在所述对标记后的视频图像进行删除或打码之后，所述方法还包括：

向服务平台或终端发送通知信息。

7.根据权利要求1所述的方法，其特征在于，所述获取视频帧序列包括：

获取视频流，所述视频流包括多个视频帧，各视频帧具有对应的视频图像；

根据所述视频流获取所述视频帧序列。

8.根据权利要求7所述的方法，其特征在于，所述视频帧序列基于以下步骤确定：

每隔预设时间抽取所述视频流中的一帧视频帧；

按照预设顺序排列从所述视频流中抽取到的全部视频帧；

将排列后的全部视频图像组成的集合确定为所述视频帧序列。

9.一种不良信息检测系统，其特征在于，所述系统包括：

获取单元，用于获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；

初次检测单元，用于将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；

二次检测单元，用于对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；

处理单元，用于对所述二级检测结果对应的视频图像执行处理流程。

10.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如权利要求1-8中任一项所述的方法。

11.一种电子设备，包括存储器和处理器，其特征在于，所述存储器用于存储一条或多条计算机程序指令，其中，所述一条或多条计算机程序指令被所述处理器执行以实现如权利要求1-8中任一项所述的方法。

12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-8中任一项所述的方法步骤。