[发明专利]文本内容审核方法及装置

说明书

本发明提供了一种文本内容审核方法，包括：当接收到文本审核请求时，获取文本内容，并将文本内容的各个词数据与数据库中的各个关键词数据进行匹配。若存在词数据匹配成功，则确定该文本内容为负面文本，并生成第一审核结果发送给客户端；若不存在词数据匹配成功，则将该文本内容输入AI审核模型中进行审核，获取AI审核模型输出的审核参数，并依据该审核参数生成第二审核结果发送给客户端，该审核参数用于确定该文本内容是否为负面文本。应用该方法，在利用数据库中各个关键词数据进行匹配的基础上，再通过AI审核模型进行深度的审核，提高对文本内容审核的精度，正确地获知该文本内容是否为负面文本。

技术领域

本发明涉及信息处理技术领域，特别是涉及一种文本内容审核方法及装置。

背景技术

随着互联网的发展以及网络用户的增多，人们越来越依赖于互联网，并进行各种信息的传播，例如新闻评论、视频弹幕、论坛、微博、博客等。用户可以在各个网络平台上发表言论。但是，随着网络上言论的增多，总有些不文明用户会在网上散播一些带有辱骂的负面性评论内容，或发布一些没有任何参考、阅读价值的灌水文本内容，会导致其他用户跟风散播负面内容的言论，影响网络环境。

在现有技术中，各大网络媒体运行商都会对用户发表的各种文本内容进行审核，通常做法是通过匹配关键词的方式，判断用户发表的文本内容中是否为负面文本或灌水文本。但是仅根据匹配关键词不一定能够完全识别出文本内容中携带的负面词汇，不文明用户在发表言论时，会将文本内容中负面词组替换成同音的词组，例如：微信、威信、薇信；或利用一些特殊符号将同一个词组的多个单词分开，使得审核文本内容过程中无法正确的判定该文本内容是否携带有负面词汇。

发明内容

有鉴于此，本发明提供了一种文本内容审核方法，先将文本内容的各个词数据与数据库中的各个关键词数据进行匹配，以确定文本内容是否存在负面的单词或词组。若各个词数据均未成功匹配，再利用AI审核模型对文本内容进行深度的审核，提高对文本内容审核的精度，正确地获知该文本内容是否为负面文本。

本发明还提供了一种文本内容审核装置，用以保证上述方法在实际中的实现及应用。

一种文本内容审核方法，包括：

当接收到客户端发送的文本审核请求时，获取所述文本审核请求中包含的文本内容；

确定与所述文本内容对应的各个词数据，并将每个所述词数据与预先建立的数据库中的各个关键词数据进行匹配，所述各个词数据包括所述文本内容中的单词、词组以及每个所述单词对应的单词拼音和每个所述词组对应的词组拼音，所述关键词数据为预先设定的各个关键词及每个关键词对应的关键词拼音；

当存在词数据与所述数据库中的关键词数据相匹配时，确定所述文本内容为负面文本，并生成与所述负面文本对应的第一审核结果，将所述第一审核结果发送至所述客户端；

当不存在词数据与所述数据库中的关键词数据相匹配时，将所述文本内容输入预先训练完成的AI审核模型中，触发所述AI审核模型对所述文本内容进行审核；

当接收到所述AI审核模型依据所述文本内容输出的审核参数时，依据所述审核参数生成第二审核结果，并将所述第二审核结果发送至所述客户端，所述审核参数包括正常文本的审核参数、负面文本的审核参数及灌水文本的审核参数。

上述的方法，可选的，所述确定与所述文本内容对应的各个词数据，并将每个所述词数据与预先建立的数据库中的各个关键词数据进行匹配，包括：

调用预先设置的分词模块从所述文本内容提取多个单词及词组；

确定每个所述单词对应的词拼音，及每个所述词组对应的词组拼音；

将各个所述单词、词组分别与所述数据库中过的各个关键词进行匹配，并将各个所述单词对应的单词拼音及各个所述词组对应的词组拼音分别与所述数据库中的关键词拼音进行匹配。