[发明专利]一种媒体文件安全审核的方法、存储介质及设备

权利要求书

1.一种媒体文件安全审核的方法，其特征在于，包括步骤：

对接收到的媒体文件进行涉黄涉政检测，并根据涉黄涉政检测结果判断所述媒体文件是否安全；

若判定所述媒体文件为安全状态，则通过媒体设备投放所述媒体文件。

2.根据权利要求1所述媒体文件安全审核的方法，其特征在于，还包括步骤：

若判定所述媒体文件为不安全状态，则将所述媒体文件保存至隔离区，禁止外部访问所述媒体文件。

3.根据权利要求1所述媒体文件安全审核的方法，其特征在于，所述对接收到的媒体文件进行涉黄涉政检测，并根据涉黄涉政检测结果判断所述媒体文件是否安全的步骤包括：

当接收到的媒体文件为图片时，则通过阿里云算法对所述图片进行涉黄涉政检测，得到涉黄涉政检测比例；

将所述涉黄涉政检测比例与预设比例阈值进行比较，判断所述图片是否安全。

4.根据权利要求3所述媒体文件安全审核的方法，其特征在于，还包括步骤：

若所述图片的涉黄涉政检测比例小于所述预设比例阈值，则判断所述图片为安全状态；

若所述图片的涉黄涉政检测比例大于等于所述预设比例阈值，则判定所述图片为不安全状态。

5.根据权利要求1所述媒体文件安全审核的方法，其特征在于，所述对接收到的媒体文件进行涉黄涉政检测，并根据涉黄涉政检测结果判断所述媒体文件是否安全的步骤包括：

当接收到的媒体文件为视频时，则根据所述视频的时长对所述视频进行抽帧截图；

通过阿里云算法对每张截图进行涉黄涉政检测，得到每张截图的涉黄涉政检测比例；

将所述每张截图的涉黄涉政检测比例与预设比例阈值进行比较，判断所述每张截图是否安全。

6.根据权利要求5所述媒体文件安全审核的方法，其特征在于，还包括步骤：

若所述每张截图的涉黄涉政比例均小于所述预设比例阈值，则判定所述视频为安全状态；

若所述每张截图中存在一张截图的涉黄涉政比例大于所述预设比例阈值，则判定所述视频为不安全状态。

7.根据权利要求5所述媒体文件安全审核的方法，其特征在于，根据所述视频的时长对所述视频进行抽帧截图的步骤包括：

当所述视频的时长小于等于1min时，则对所述视频的前30s进行每秒1次截图；

当获取到预定数量的截图时，则停止截图。

8.根据权利要求5所述媒体文件安全审核的方法，其特征在于，根据所述视频的时长对所述视频进行抽帧截图的步骤包括：

当所述视频的时长大于1min时，则对所述视频每隔10s进行1次截图；

当获取到预定数量的截图时，则停止截图。

9.一种存储介质，其特征在于，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如权利要求1-8任意一项所述媒体文件安全审核的方法中的步骤。

10.一种设备，其特征在于，包括处理器、存储器及通信总线；所述存储器上存储有可被所述处理器执行的计算机可读程序；

所述通信总线实现处理器和存储器之间的连接通信；

所述处理器执行所述计算机可读程序时实现如权利要求1-8任意一项所述媒体文件安全审核的方法中的步骤。