[发明专利]面向云存储的不良图片检测方法、装置及存储介质

说明书

本发明涉及云存储技术，提供了一种面向云存储的不良图片检测方法、装置及存储介质。该方法包括：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；利用预先确定的不良图片识别系统对所述每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库；从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；接收对抽取图片的人工审核结果，将所述第一判定阈值调整为第二判定阈值；将待识别图片输入所述不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出不良图片类型。利用本发明，可以减少需要人工审核的图片数量，提高不良图片检测效率。

技术领域

本发明涉及图片识别技术领域，尤其涉及一种面向云存储的不良图片检测方法、装置及计算机可读存储介质。

背景技术

云存储(cloud storage)是在云计算(cloud computing)概念上延伸和发展出来的概念，可以实现规模效应，提高存储效率，降低运维成本。随着云存储技术的发展和推广，越来越多的企业与个人用户选择将大量图片上传并保存在云存储系统，传统的人工审核的方式显然已不适用于云存储系统的图片审核，如何检测和过滤云存储系统海量图片中的不良图片(例如涉黄、涉暴、涉政等)，已成为研究者密切关注的问题。

目前，有些云平台已开始利用不良图片识别系统对图片进行识别，然而，现有的不良图片识别系统都是根据预设的判定阈值将逻辑回归值(图片属于不良图片的概率)映射到二元类别，决定是否删除图片或图片是否需要复审。如果所述判定阈值过高，则不良图片的漏检率将很高，无法达到图片审核的目的；如果所述判定阈值过低，则误删图片数量或需要复审的图片数量太大，大大增加了不良图片检测成本。

发明内容

鉴于以上原因，有必要提供一种面向云存储的不良图片检测方法、装置及计算机可读存储介质，用来识别多种不同类型的不良图片，提高不良图片检测的效率和质量，降低不良图片检测成本。

为实现上述目的，本发明提供一种面向云存储的不良图片检测方法，应用于电子装置，该方法包括：

设置步骤：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；

识别步骤：利用预先确定的不良图片识别系统对云存储系统的每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库，将大于所述第一判定阈值的识别分值对应的不良图片的类型作为该预设数据库中图片的类型标签；

抽取步骤：从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；

计算步骤：接收对抽取图片的人工审核结果，计算所述每个存储空间中人工审核结果与所述类型标签相同的图片的识别分值的平均值，将该平均值作为该存储空间不良图片的第二判定阈值；及

检测步骤：将待检测图片输入所述预先确定的不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出该待检测图片的不良图片类型。

优选地，所述第二判定阈值的计算公式为：

a＝sum(a1：ax)/X，b＝sum(b1：by)/Y，c＝sum(c1：cz)/Z

其中，a表示某存储空间第一类型不良图片的第二判定阈值，b表示该存储空间第二类型不良图片的第二判定阈值，c表示该存储空间第三类型不良图片的第二判定阈值，sum(a1：ax)表示该存储空间X张第一类型不良图片识别分值之和，sum(b1：by)表示该存储空间Y张第二类型不良图片识别分值之和，sum(c1：cz)表示该存储空间Z张第三类型不良图片识别分值之和。

优选地，该方法还包括：

将人工审核结果与所述类型标签不同的图片存储至预设样本库，每隔预设时间间隔利用所述预设样本库对所述不良图片识别系统进行训练更新。