[发明专利]网页内容敏感类型确定方法、装置、介质和计算机设备

说明书

本发明提供了一种网页内容敏感类型确定方法、装置、计算机存储介质和计算机设备；该方法包括：根据待评估网页的URL获得待评估网页内容；使用与所述待评估网页内容的内容类型对应的敏感度评估模型对所述待评估网页内容进行评估，获得对应的模型评估值；判断所述模型评估值是否位于预设阈值区间；若是，则将所述待评估网页内容发送到人工审核客户端；接收与所述待评估网页内容对应的人工评估值，根据所述人工评估值确定所述待评估网页内容的敏感类型。通过本发明技术方案，能够快速为网页内容进行敏感类型的初步评估，并且使用人工为属于预设情况中的网页内容做进一步评估，保证网页内容的鉴别准确率，从而显著提高了网页内容的鉴别效率。

技术领域

本发明涉及内容识别领域，具体而言，本发明涉及一种网页内容敏感类型确定方法、装置、介质和计算机设备。

背景技术

随着互联网的迅猛发展，网络信息已经成为人们生活中必不可少的一部分，目前互联网上的网页数以亿计，网页上的内容五花八门，而提供敏感内容比如涉及色情的视频、图片等内容的网站也越来越多，这会使网络环境变得很复杂，并且会对青少年的健康成长造成很大影响。因此，对互联网上的网页的内容进行鉴别监控有十分重要的意义。

目前对网页内容的鉴别监控手段一般是先预设敏感词库，然后根据预设敏感词库对网页的文本数据进行敏感词匹配鉴别，但是提供敏感内容的网站会对网页内的文本进行一些技术处理从而避免被敏感词匹配到；另一种常用的鉴别监控手段是使用人工全量浏览待审核网页中所有图片、音频或视频的手段进行鉴别筛查，然而尽管人工全量浏览这种内容鉴别手段的鉴别准确率比前一种高，但是由于需要鉴别的网页数量庞大，使得这种手段在实施时需要耗费大量的人力资源，并且人工鉴别时长往往很长，导致内容鉴别效率低下。

发明内容

本发明针对现有技术的缺点，提供了一种网页内容敏感类型确定方法、装置、介质和计算机设备，本发明技术方案能够快速为网页内容进行敏感类型的初步评估，并且使用人工为属于预设情况中的网页内容做进一步评估，保证网页内容的鉴别准确率，从而显著提高了网页内容的鉴别效率。

本发明实施例根据第一方面提供了一种网页内容敏感类型确定方法，包括：

根据待评估网页的URL获得待评估网页内容；

使用与所述待评估网页内容的内容类型对应的敏感度评估模型对所述待评估网页内容进行评估，获得对应的模型评估值；

判断所述模型评估值是否位于预设阈值区间；

若是，则将所述待评估网页内容发送到人工审核客户端；

接收与所述待评估网页内容对应的人工评估值，根据所述人工评估值确定所述待评估网页内容的敏感类型。

进一步地，所述根据待评估网页的URL获得待评估网页内容，包括：

获取所述待评估网页的URL对应的网页数据；

从所述网页数据中提取出与预设匹配规则匹配的链接；

根据所述链接获得网页内容；

将所述网页内容作为待评估网页内容。

进一步地，所述将所述网页内容作为待评估网页内容，包括：

若所述网页内容的内容类型是图像，则获取所述网页内容的分辨率阈值；

判断所述分辨率阈值是否大于预设分辨率阈值；

若大于，则将所述网页内容作为待评估网页内容。

进一步地，所述将所述网页内容作为待评估网页内容，包括：

若所述网页内容的内容类型是图像，则使用预设算法对所述网页内容进行处理，获得图片特征值；