[发明专利]不良信息检测方法、系统、电子设备和可读存储介质

说明书

本发明实施例公开了一种不良信息检测方法、系统、电子设备和可读存储介质，所述方法包括：获取视频帧序列，将视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，对一级检测结果对应的视频图像进行二次检测，确定二级检测结果，对二级检测结果对应的视频图像执行处理流程。由此，在实现对视频图像信息检测的同时，有利于提高信息检测效率，降低信息检测成本，提升视频图像信息品质。

技术领域

本发明涉及计算机技术领域，具体涉及一种不良信息检测方法、装置、电子设备和可读存储介质。

背景技术

为避免带有不良信息(例如：涉黄和涉暴)的视频图像进入公众视野，需要对视频图像进行信息识别，以将符合规范的视频图像进行播放和传播。

现有的视频图像信息检测大多依赖于专用的信息检测平台，通过将待检测视频图像输入至信息检测平台，由信息检测平台对全部视频图像进行检测，并输出图像检测结果。然而，当待检测视频图像数量庞大时，若选用复杂度高的模型，能够尽可能地筛选出违规图像，检测精度高，但检测耗费的时间长，检测成本高。若采用复杂度低的模型，虽然可以节约检测时长，但由于模型精度较低，检测结果的准确度仍有较大的改善空间。

发明内容

有鉴于此，本发明实施例提供一种不良信息检测方法、装置、电子设备和可读存储介质，以在实现视频图像信息检测的同时，提升视频信息品质，提高视频信息检测效率，降低信息检测成本。

第一方面，本发明实施例提供一种不良信息检测方法，所述方法包括：

获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；

将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；

对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；

对所述二级检测结果对应的视频图像执行处理流程。

进一步地，所述一级检测模型包括第一模型和第二模型，所述第一模型和第二模型分别用于检测所述视频图像中的涉黄信息和涉暴信息。

进一步地，所述将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果包括：

将所述视频帧序列分别输入至第一模型和第二模型，确定对应的第一检测结果和第二检测结果；

根据所述第一检测结果和第二检测结果确定所述一级检测结果。

进一步地，所述对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果包括：

调用内容审核平台；

基于所述内容审核平台输出的识别结果确定所述二级检测结果。

进一步地，所述对所述二级检测结果对应的视频图像执行处理流程包括：

对所述二级检测结果对应的视频图像进行标记；

对标记后的视频图像进行删除或打码。

进一步地，在所述对标记后的视频图像进行删除或打码之后，所述方法还包括：

向服务平台或终端发送通知信息。

进一步地，所述获取视频帧序列包括：

获取视频流，所述视频流包括多个视频帧，各视频帧具有对应的视频图像；

根据所述视频流获取所述视频帧序列。

进一步地，所述视频帧序列基于以下步骤确定：