[发明专利]用于识别文本类型的方法、装置和设备有效
申请号: | 201610798213.2 | 申请日: | 2016-08-31 |
公开(公告)号: | CN107797982B | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 岳爱珍;崔燕;高显;赵辉;王私江;谭静 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F40/284;G06F16/35 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 识别 文本 类型 方法 装置 设备 | ||
1.一种用于识别文本类型的方法,其特征在于,所述方法包括:
对预先获取的文本进行预处理得到所述文本的关键词集合;
计算所述关键词集合中的每个关键词在所述文本中的出现概率值;
对于所述关键词集合中的每个关键词,将该关键词和与该关键词对应的出现概率值导入预先建立的文档主题生成模型,确定所述文档主题生成模型中预先设置的各个主题在所述文本的出现概率值,其中,所述文档主题生成模型用于表征词语在文本中的出现概率值、所述词语在所述各个主题中预先得出的出现概率值这两者与所述各个主题在文本中的出现概率值之间的对应关系;
根据所述各个主题在所述文本中的出现概率值,识别所述文本所属的类型;
还包括:所述类型包括正类和负类;以及所述识别所述文本所属的类型,包括:
将所述各个主题在文本中的出现概率值导入预先建立的第一逻辑回归模型,得出所述文本属于所述正类的第一概率值,其中,所述第一逻辑回归模型用于表征所述各个主题在所述文本中的出现概率值与所述文本属于正类的第一概率值之间的对应关系;
根据所述第一概率值识别所述文本是否属于所述正类。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一概率值识别所述文本是否属于所述正类,包括:
响应于所述第一概率值小于预设的第一阈值,将所述各个主题在文本中的出现概率值导入预先建立的第二逻辑回归模型,得出所述文本属于所述正类的第二概率值,其中,所述第二逻辑回归模型用于表征所述各个主题在所述文本中的出现概率值与所述文本属于所述正类的第二概率值之间的对应关系且所述第二逻辑回归模型的回归参数与所述第一逻辑回归模型的回归参数不同,其中,回归参数用于表征各个主题属于所述正类的概率;
响应于所述第二概率值大于预设的第二阈值,确定所述文本属于所述正类。
3.根据权利要求1所述的方法,其特征在于,所述根据所述第一概率值识别所述文本是否属于所述正类,还包括:
响应于所述第一概率值大于预设的第一阈值,确定所述文本属于所述正类。
4.根据权利要求2所述的方法,其特征在于,所述根据所述第一概率值识别所述文本是否属于所述正类,还包括:
响应于所述第二概率值小于预设的第二阈值,确定所述文本属于所述负类。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述对预先获取的文本进行预处理得到所述文本的关键词集合,包括:
去除所述文本中的特殊符号;
对去除特殊符号后的文本进行切词得到词的集合;
去除所述词的集合中的停用词得到所述关键词集合。
6.一种用于识别文本类型的装置,其特征在于,所述装置包括:
预处理模块,配置用于对预先获取的文本进行预处理得到所述文本的关键词集合;
计算模块,配置用于计算所述关键词集合中的每个关键词在所述文本中的出现概率值;
确定模块,配置用于对于所述关键词集合中的每个关键词,将该关键词和与该关键词对应的出现概率值导入预先建立的文档主题生成模型,确定所述文档主题生成模型中预先设置的各个主题在所述文本的出现概率值,其中,所述文档主题生成模型用于表征词语在文本中的出现概率值、所述词语在所述各个主题中预先得出的出现概率值这两者与所述各个主题在文本中的出现概率值之间的对应关系;
识别模块,配置用于根据所述各个主题在所述文本中的出现概率值,识别所述文本所属的类型;
还包括:所述类型包括正类和负类;以及所述识别模块,包括:
确定单元,配置用于将所述各个主题在文本中的出现概率值导入预先建立的第一逻辑回归模型,得出所述文本属于所述正类的第一概率值,其中,所述第一逻辑回归模型用于表征所述各个主题在所述文本中的出现概率值与所述文本属于正类的第一概率值之间的对应关系;
识别单元,配置用于根据所述第一概率值识别所述文本是否属于所述正类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610798213.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种目标文本识别方法及装置
- 下一篇:智能交互方法、设备及存储介质