[发明专利]文本分类模型的元学习方法、装置、设备及存储介质在审
申请号: | 202110702623.3 | 申请日: | 2021-06-24 |
公开(公告)号: | CN113434648A | 公开(公告)日: | 2021-09-24 |
发明(设计)人: | 饶刚 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F40/289;G06K9/62 |
代理公司: | 深圳国新南方知识产权代理有限公司 44374 | 代理人: | 周雷 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 模型 学习方法 装置 设备 存储 介质 | ||
1.一种文本分类模型的元学习方法,其特征在于,所述方法包括:
获取文本样本数据,所述文本样本数据携带有所述文本样本数据所属类别的标识,其中,至少一个所述类别中包含的文本样本数据的数量小于预设值;
将文本样本数据的数量小于所述预设值的类别中包含的文本样本数据确定为元测试集,将文本样本数据的数量大于等于所述预设值的类别中包含的文本样本数据确定为元训练集;
通过所述元训练集对文本分类模型进行元训练,得到文本分类模型学习器;
将所述文本分类模型学习器作为待训练的文本分类模型,通过所述元测试集对所述文本分类模型学习器进行测试训练,当所述文本分类模型学习器的损失函数在测试阶段收敛时,得到训练好的文本分类模型。
2.根据权利要求1所述的文本分类模型的元学习方法,其特征在于,所述将所述文本分类模型学习器作为待训练的文本分类模型,通过所述元测试集对所述文本分类模型学习器进行测试训练的步骤包括:
从所述元测试集中抽取属于同一类别的查询测试样本和支撑测试样本;
通过所述文本分类模型学习器的向量提取模块对所述查询测试样本进行向量提取,得到查询测试样本向量;
通过所述文本分类模型学习器的向量提取模块对所述支撑测试样本进行向量提取,得到支撑测试样本向量;
将所述支撑测试样本向量输入至所述文本分类模型学习器的胶囊网络,得到所述支撑测试样本所属类别的类别向量;
将所述查询测试样本向量与所述支撑测试样本所属类别的类别向量进行匹配,根据属于同一类别的样本匹配的概率调整所述文本分类模型学习器的向量提取模块和所述胶囊网络的参数;
当所述文本分类模型学习器的损失函数没有收敛时,循环所述从所述元测试集中抽取属于同一类别的查询测试样本和支撑测试样本至所述根据属于同一类别的样本匹配的概率调整所述文本分类模型学习器的向量提取模块和所述胶囊网络的参数的步骤,直到所述文本分类模型学习器的损失函数在测试阶段收敛时,得到训练好的所述文本分类模型。
3.根据权利要求1所述的文本分类模型的元学习方法,其特征在于,所述通过所述元训练集对文本分类模型进行元训练,得到文本分类模型学习器的步骤包括:
从所述元训练集中抽取属于同一类别的查询训练样本和支撑训练样本;
通过所述文本分类模型的向量提取模块对所述查询训练样本进行向量提取,得到第一样本向量;
通过所述文本分类模型的向量提取模块对所述支撑训练样本进行向量提取,得到第二样本向量;
将所述第二样本向量输入至所述文本分类模型的胶囊网络,得到所述支撑训练样本所属类别的类别向量;
将所述第一样本向量与所述支撑训练样本所属类别的类别向量进行匹配,根据匹配的概率调整所述文本分类模型的向量提取模块和所述胶囊网络的参数;
当所述文本分类模型的损失函数没有收敛时,循环所述从所述元训练集中抽取存在属于同一类别的查询训练样本和支撑训练样本至所述根据匹配的概率调整所述文本分类模型的向量提取模块和所述胶囊网络的参数的步骤,直到所述文本分类模型的损失函数在训练阶段收敛时,得到所述文本分类模型学习器。
4.根据权利要求3所述的文本分类模型的元学习方法,其特征在于,通过以下公式计算所述第一样本向量与所述支撑训练样本所属类别的类别向量的匹配概率:
其中,表示支撑训练样本q的第一样本向量eq与类别ik的类别向量之间的余弦距离,已知支撑训练样本q的实际类别为ik,表示支撑训练样本q的第一样本向量eq与类别ij的类别向量之间的余弦距离。
5.根据权利要求3所述的文本分类模型的元学习方法,其特征在于,所述文本分类模型的损失函数表示为:
其中,S表示支撑训练样本,Q表示查询训练样本,C表示支撑训练样本S的类别总数,n表示查询训练样本Q的总数,riq表示所述匹配概率,yq表示样本q的实际类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110702623.3/1.html,转载请声明来源钻瓜专利网。