[发明专利]一种视频风险识别方法、装置及设备

说明书

本说明书实施例公开了一种视频风险识别方法、装置及设备，其中，该方法对从视频中获取的弹幕进行风险识别，确定存在风险的弹幕，并利用存在风险的弹幕确定视频是否存在风险。

技术领域

本发明涉及计算机技术领域，尤其涉及一种视频风险识别方法、装置及设备。

背景技术

随着互联网技术的发展，视频以多样化的方式进行传播，例如，网络直播、短视频等。以网络直播为例，其吸取和延续了互联网的优势，利用视讯方式进行网上现场直播，可以将产品展示、相关会议、在线培训等内容现场发布到互联网上，利用互联网的直观、交互性强、地域不受限制等特点，能够加强活动现场的推广效果。但是，部分直播平台传播色情、暴力、诈骗等信息，违背社会主义核心价值观，特别是给青少年身心健康带来不良影响。

因此，如何对视频进行风险识别，使网络直播、短视频等业务健康快速发展，对技术人员来说是巨大的挑战。

发明内容

鉴于此，本发明实施例提供了一种视频风险识别方法、装置及设备。

本发明实施例采用下述技术方案：

本发明实施例提供了一种视频风险识别方法，包括：

获取视频的弹幕；

对所述弹幕进行风险识别，确定存在风险的弹幕；

根据所述存在风险的弹幕，确定所述视频是否存在风险。

优选地，

所述弹幕，包括：评论内容；

所述对所述弹幕进行风险识别，确定存在风险的弹幕，包括：

对所述弹幕的评论内容进行分词；

将分词结果与预设的关键词词库进行匹配，确定所述弹幕的第一风险值；

当所述弹幕的第一风险值在预设的第一风险范围内时，确定所述弹幕存在风险；

优选地，

所述弹幕，包括：评论内容；

所述对所述弹幕进行风险识别，确定存在风险的弹幕，包括：

将所述弹幕的评论内容与预设的正则表达式进行匹配，确定所述弹幕的第二风险值；

当所述弹幕的第二风险值在预设的第二风险范围内时，确定所述弹幕存在风险；

优选地，

所述弹幕，包括：评论内容；

所述对所述弹幕进行风险识别，确定存在风险的弹幕，包括：

将所述弹幕的评论内容与预设的至少一个风险文本进行对比，确定所述弹幕的评论内容与各个所述风险文本的相似度；

根据所述弹幕的评论内容与各个所述风险文本的相似度，确定所述弹幕的第三风险值；

当所述弹幕的第三风险值在预设的第三风险范围内时，确定所述弹幕存在风险；

优选地，

所述弹幕，包括：评论内容；

所述对所述弹幕进行风险识别，确定存在风险的弹幕，包括：

对所述弹幕的评论内容进行特征抽取；

根据特征抽取结果和预先构建的至少一个文本模型，确定所述弹幕的评论内容所属的目标文本模型；

根据所述弹幕的评论内容所属的目标文本模型，确定所述弹幕的第四风险值；