[发明专利]文本内容审核方法及装置

摘要

本发明提供了一种文本内容审核方法，包括：当接收到文本审核请求时，获取文本内容，并将文本内容的各个词数据与数据库中的各个关键词数据进行匹配。若存在词数据匹配成功，则确定该文本内容为负面文本，并生成第一审核结果发送给客户端；若不存在词数据匹配成功，则将该文本内容输入AI审核模型中进行审核，获取AI审核模型输出的审核参数，并依据该审核参数生成第二审核结果发送给客户端，该审核参数用于确定该文本内容是否为负面文本。应用该方法，在利用数据库中各个关键词数据进行匹配的基础上，再通过AI审核模型进行深度的审核，提高对文本内容审核的精度，正确地获知该文本内容是否为负面文本。

主权项

1.一种文本内容审核方法，其特征在于，包括：/n当接收到客户端发送的文本审核请求时，获取所述文本审核请求中包含的文本内容；/n确定与所述文本内容对应的各个词数据，并将每个所述词数据与预先建立的数据库中的各个关键词数据进行匹配，所述各个词数据包括所述文本内容中的单词、词组以及每个所述单词对应的单词拼音和每个所述词组对应的词组拼音，所述关键词数据为预先设定的各个关键词及每个关键词对应的关键词拼音；/n当存在词数据与所述数据库中的关键词数据相匹配时，确定所述文本内容为负面文本，并生成与所述负面文本对应的第一审核结果，将所述第一审核结果发送至所述客户端；/n当不存在词数据与所述数据库中的关键词数据相匹配时，将所述文本内容输入预先训练完成的AI审核模型中，触发所述AI审核模型对所述文本内容进行审核；/n当接收到所述AI审核模型依据所述文本内容输出的审核参数时，依据所述审核参数生成第二审核结果，并将所述第二审核结果发送至所述客户端，所述审核参数包括正常文本的审核参数、负面文本的审核参数及灌水文本的审核参数。/n