[发明专利]一种基于机器学习的视频内容审核方法及装置

说明书

本发明提出一种基于机器学习的视频内容审核方法及装置，该方法包括：提取待审核的视频资源中的视频信息、音频信息和文本信息；通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，以及通过经过训练的循环神经网络分别对所述音频信息和所述文本信息进行违规内容识别处理，判断所述视频信息、所述音频信息和所述文本信息中是否包含违规内容；如果所述视频信息、所述音频信息或所述文本信息中包含违规内容，则确认并输出所述视频信息、所述音频信息或所述文本信息中包含的违规内容类型。上述技术方案实现了自动识别视频资源中包含的违规内容，可以替代人工审核视频内容，提高视频内容审核效率。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种基于机器学习的视频内容审核方法及装置。

背景技术

随着互联网技术的发展，互联网视频流量在近几年大量增加，短视频、视频直播等各种新型用户原创内容(User Generated Content，UGC)促使互联网视频越来越丰富。大量的视频资源在互联网、移动通信网、广电有线网等渠道中传播。

互联网的发展和互联网视频应用的大力开发方便了用户通过视频传播信息，同时也方便了不法分子散播包含不良信息的违规视频资源，例如涉及种族歧视、政治敏感话题、暴力、色情、恐怖等信息的视频资源。因此，在互联网视频飞速发展的背景下，对视频内容进行审核是维护良好互联网环境的必要措施。传统方法通常依靠人工来审核上传至互联网的视频资源的内容是否包含违规内容。由于互联网视频资源量越来越大，因此依靠人工对视频内容进行审核必然要消耗大量人力成本，并且效率较低。

发明内容

基于上述现有技术的缺陷和不足，本发明提出一种基于机器学习的视频内容审核方法及装置，可以实现自动对视频内容进行审核。

为了达到上述目的，本发明提出如下技术方案：

一种基于机器学习的视频内容审核方法，包括：

提取待审核的视频资源中的视频信息、音频信息和文本信息；

通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，以及通过经过训练的循环神经网络分别对所述音频信息和所述文本信息进行违规内容识别处理，判断所述视频信息、所述音频信息和所述文本信息中是否包含违规内容；

如果所述视频信息、所述音频信息或所述文本信息中包含违规内容，则确认并输出所述视频信息、所述音频信息或所述文本信息中包含的违规内容类型。

优选地，该方法还包括：

当确认所述视频信息、所述音频信息或所述文本信息中包含违规内容时，确认并输出违规内容在所述待审核的视频资源中的时间位置。

优选地，通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，判断所述视频信息中是否包含违规内容，包括：

将所述视频信息划分为多个视频帧；

通过经过训练的卷积神经网络分别对所述多个视频帧进行违规内容识别处理，分别判断每个视频帧中是否包含违规内容；

如果任意一个视频帧中包含违规内容，则确认所述视频信息中包含违规内容。

优选地，对所述卷积神经网络的训练过程，包括：

循环执行以下操作，直到计算得到的代价值小于设定阈值；

将已经标注违规内容类型的图像输入卷积神经网络，使所述卷积神经网络按照预设的参数识别所述图像中的违规内容；

将所述卷积神经网络识别的违规内容类型，与标注的违规内容类型进行对比，得到所述卷积神经网络进行违规内容识别的代价值；

判断得到的代价值是否小于设定阈值；