[发明专利]违规视频检测方法、装置以及存储介质

权利要求书

1.一种违规视频检测方法，其特征在于，包括：

获取待检测视频；以及

对所述待检测视频执行以下的检测操作，确定所述待检测视频是否为违规视频：

对所述待检测视频的关键帧中的图像进行违规内容的检测；和/或

对所述待检测视频中的音频信息、标题信息、描述信息和/或从所述待检测视频关键帧中提取的文本信息进行违规内容的检测。

2.根据权利要求1所述的方法，其特征在于，对所述待检测视频的关键帧中的图像进行违规内容的检测操作，包括：

利用预先设置的人脸识别模型，检测所述视频的关键帧中是否包括违规人物的图像；

利用预先设置的违规内容分类模型，检测所述视频的关键帧中的图像是否为第一类型违规内容以及对应的违规类别；以及

利用预先设置的违规内容检测模型，检测所述视频的关键帧中的图像是否包含第二类型违规内容、所述第二类型违规内容的位置以及对应的违规类别。

3.根据权利要求2所述的方法，其特征在于，利用预先设置的违规内容检测模型，检测所述视频的关键帧中的图像是否包含第二类型违规内容、所述第二类型违规内容的位置以及对应的违规类别的操作，包括：

利用所述违规内容检测模型的违规内容子检测模型，检测所述视频的关键帧中的图像可能包括所述第二类型违规内容的区域；以及

利用所述违规内容检测模型的违规内容子分类模型，确定所述区域内的图像是否包括所述第二类型违规内容。

4.根据权利要求3所述的方法，其特征在于，对所述待检测视频执行以下所述的检测操作，确定所述待检测视频是否为违规视频的操作，还包括根据以下检测的结果，确定所述待检测视频符合规定的概率：

检测所述视频的关键帧中是否包括违规人物的图像；

检测所述视频的关键帧中的图像是否为第一类型违规内容以及对应的违规类别；以及

检测所述视频的关键帧中的图像是否包含第二类型违规内容、所述第二类型违规内容的位置以及对应的违规类别。

5.根据权利要求1所述的方法，其特征在于，对所述待检测视频中的音频信息进行违规内容的检测的操作，包括：

利用预先设置的语音识别模型，根据所述待检测视频中的音频，生成相应的第一文本信息；以及

利用预先设置的文本分类模型以及关键词匹配模型，对所述第一文本信息进行违规内容的检测。

6.根据权利要求1所述的方法，其特征在于，对所述待检测视频中的标题信息和描述信息进行违规内容的检测的操作，包括：

获取与所述标题信息和所述描述信息对应的第二文本信息；以及

利用预先设置的文本分类模型以及关键词匹配模型，对所述第二文本信息进行违规内容的检测。

7.根据权利要求1所述的方法，其特征在于，对从所述待检测视频关键帧中提取的文本信息进行违规内容的检测的操作，包括：

利用预先设置的OCR识别模型，从所述视频的关键帧中提取第三文本信息；以及

利用预先设置的文本分类模型以及关键词匹配模型，对所述第三文本信息进行违规内容的检测。

8.根据权利要求1所述的方法，其特征在于，确定所述待检测视频是否为违规视频的操作，包括：

确定对所述待检测视频的关键帧中的图像进行违规内容的检测的第一检测结果的第一权重；

确定对所述待检测视频中的音频信息、标题信息、描述信息和/或从所述待检测视频关键帧中提取的文本信息进行违规内容的检测的第二检测结果的第二权重；以及

根据所述第一检测结果、所述第二检测结果、所述第一权重以及所述第二权重，确定所述待检测视频是否为违规视频。

9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时由处理器执行权利要求1至8中任意一项所述的方法。