[发明专利]文本分类方法、装置、设备及可读存储介质有效
| 申请号: | 201911328004.1 | 申请日: | 2019-12-20 |
| 公开(公告)号: | CN110968697B | 公开(公告)日: | 2023-06-16 |
| 发明(设计)人: | 汪鸿翔;吴飞;张浩宇;方四安;徐承 | 申请(专利权)人: | 合肥讯飞数码科技有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 薛娇 |
| 地址: | 230088 安徽省合肥市高新区*** | 国省代码: | 安徽;34 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 分类 方法 装置 设备 可读 存储 介质 | ||
1.一种文本分类方法,其特征在于,包括:
对待分类文本进行字、词、句三个层级的编码,得到所述待分类文本的字级向量表达、词级向量表达和句级向量表达;
将由所述字级向量表达、词级向量表达和句级向量表达构成的纯四元数空间向量表达在四元数空间进行处理,得到所述待分类文本在所述四元数空间的特征;
至少根据所述待分类文本在所述四元数空间的特征确定所述待分类文本的类别。
2.根据权利要求1所述的方法,其特征在于,所述待分类文本为中文文本,所述对待分类文本进行字级编码,包括:
对于所述待分类文本中的每一个字,获取该字的各个偏旁;
根据该字的各个偏旁得到该字的向量表达。
3.根据权利要求1所述的方法,其特征在于,所述将由所述字级向量表达、词级向量表达和句级向量表达构成的纯四元数空间向量表达在四元数空间进行处理包括:
利用四元数卷积核对所述纯四元数空间向量表达进行四元数卷积处理,得到所述待分类文本在所述四元数空间的初始特征;
对所述待分类文本在所述四元数空间的初始特征进行降维,得到所述待分类文本在所述四元数空间的特征。
4.根据权利要求1-3任意一项所述的方法,其特征在于,在至少根据所述待分类文本在所述四元数空间的特征确定所述待分类文本的类别之前,还包括:
获取所述待分类文本在实数空间的特征;
所述至少根据所述待分类文本在所述四元数空间的特征确定所述待分类文本的类别,包括:
对所述待分类文本在所述四元数空间的特征,以及所述待分类文本在实数空间的特征进行处理,得到所述待分类文本的类别。
5.根据权利要求4所述的方法,其特征在于,所述获取所述待分类文本在实数空间的特征,包括:
获取所述待分类文本中的各个词的向量表达;
对所述待分类文本中各个词的位置进行编码,得到所述待分类文本中各个词的位置的向量表达;
对所述待分类文本中各个词的向量表达和位置的向量表达进行处理,得到所述待分类文本在实数空间的特征。
6.根据权利要求5所述的方法,其特征在于,所述对所述待分类文本中各个词的向量表达和位置的向量表达进行处理,得到所述待分类文本在实数空间的特征,包括:
对应所述待分类文本中的每一个词,将该词的向量表达和位置的向量表达相加,得到该词的与位置相关的向量表达;
将所述待分类文本中的各个词的与位置相关的向量表达输入基于动态注意力机制的编码模型,得到所述编码模型输出的所述待分类文本中的各个词在实数空间的特征。
7.根据权利要求6所述的方法,其特征在于,所述将所述待分类文本中的各个词的与位置相关的向量表达输入基于动态注意力机制的编码模型,得到所述编码模型输出的所述待分类文本中的各个词在实数空间的特征,包括:
通过所述编码模型中的注意力层,基于当前时间步长计算每一个词与所述待分类文本中各个词之间的注意力权重;用该词与所述待分类文本中的各个词之间的注意力权重,对各个词的与位置相关的向量表达加权求和,得到该词的包含上下文信息的向量表达;
通过所述编码模型中的第一归一化层对所述待分类文本中的各个词的与位置相关的向量表达,以及各个词的包含上下文信息的向量表达进行第一归一化处理,得到各个词的归一化向量表达;
通过所述编码模型中的前馈神经网络层对每一个词的与位置相关的向量表达,该词的包含上下文信息的向量表达和归一化向量表达进行特征提取,得到该词在实数空间的初始特征;
通过所述编码模型中的第二归一化层对该词的包含上下文信息的向量表达和归一化向量表达,以及该词在实数空间的初始特征进行第二归一化处理,得到所述编码模型输出的该词在实数空间的特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥讯飞数码科技有限公司,未经合肥讯飞数码科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911328004.1/1.html,转载请声明来源钻瓜专利网。





