[发明专利]基于词性编码的短文本聚类方法、装置及计算机设备有效
| 申请号: | 202010190439.0 | 申请日: | 2020-03-18 |
| 公开(公告)号: | CN111506726B | 公开(公告)日: | 2023-09-22 |
| 发明(设计)人: | 胡汉一;刘欢;夏鲁豫;陈梦霏 | 申请(专利权)人: | 大箴(杭州)科技有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/289;G06F40/242 |
| 代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 黄耀威;贾依娇 |
| 地址: | 310000 浙江省*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 词性 编码 文本 方法 装置 计算机 设备 | ||
1.一种基于词性编码的短文本聚类方法,其特征在于,包括:
对预处理后的目标短文本进行切词,获取得到各个关键词;
确定各个所述关键词对应的目标词性;
依据所述目标词性以及各个所述关键词在所述目标短文本中的排列顺序,计算所述目标短文本的编码表达向量;
根据所述编码表达向量对各个所述目标短文本进行聚类划分;
所述依据所述目标词性以及各个所述关键词在所述目标短文本中的排列顺序,计算所述目标短文本的编码表达向量,具体包括:
将所述目标词性以及所述关键词在文本中的排列顺序确定为聚类编码特征;
基于所述聚类编码特征并利用定长遗忘编码方法计算各个目标短文本的编码表达向量。
2.根据权利要求1所述的方法,其特征在于,在所述对预处理后的目标短文本进行切词,获取得到各个关键词之前,具体还包括:
对目标短文本进行预处理;
所述对目标短文本进行预处理,具体包括:
滤除目标短文本中的特殊字符;
将所述目标短文本中的大写英文字母替换为小写字母;
对符合预设条件的字符组合进行加密处理或替换为预设字符。
3.根据权利要求2所述的方法,其特征在于,所述对预处理后的目标短文本进行切词,获取得到各个关键词,具体包括:
依据关键词词典对所述目标短文本进行正则匹配,将匹配到的词切分为第一关键词;
将剩余未匹配到的词确定为第二关键词,并将所述第二关键词作为新词更新至所述关键词词典中。
4.根据权利要求2所述的方法,其特征在于,所述对预处理后的目标短文本进行切词,获取得到各个关键词,具体还包括:
依据样本数据中的短文本集合提取各个关键词的隐藏状态序列;
获取所述目标短文本的观察状态序列;
根据所述观察状态序列对应各个隐藏状态序列的最大概率,确定切词结果,以便切分获取得到各个关键词。
5.根据权利要求3或4任一项所述的方法,其特征在于,所述确定各个所述关键词对应的目标词性,具体包括:
在关键词词性表中确定各个关键词对应的关键词词性;或
将各个关键词输入至训练好的词性标注模型中,获取得到各个关键词的词性标注结果。
6.根据权利要求1所述的方法,其特征在于,所述根据所述编码表达向量对各个所述目标短文本进行聚类划分,具体包括:
训练搭建符合预设标准的短文本聚类模型;
将各个所述目标短文本对应的编码表达向量输入所述短文本聚类模型中,获取得到所述目标短文本两两之间的目标距离;
依据预设距离判定规则对所述目标距离进行类别划分,以便获取得到所述目标短文本的聚类划分结果。
7.一种基于词性编码的短文本聚类装置,其特征在于,包括:
获取模块,用于对预处理后的目标短文本进行切词,获取得到各个关键词;
确定模块,用于确定各个所述关键词对应的目标词性;
计算模块,用于依据所述目标词性以及各个所述关键词在所述目标短文本中的排列顺序,计算所述目标短文本的编码表达向量;
划分模块,用于根据所述编码表达向量对各个所述目标短文本进行聚类划分;
所述计算模块,具体用于将所述目标词性以及所述关键词在文本中的排列顺序确定为聚类编码特征,并基于所述聚类编码特征并利用定长遗忘编码方法计算各个目标短文本的编码表达向量。
8.一种非易失性可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1至6中任一项所述的基于词性编码的短文本聚类方法。
9.一种计算机设备,包括非易失性可读存储介质、处理器及存储在非易失性可读存储介质上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至6中任一项所述的基于词性编码的短文本聚类方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大箴(杭州)科技有限公司,未经大箴(杭州)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010190439.0/1.html,转载请声明来源钻瓜专利网。





