[发明专利]一种面向少样本领域的轻量级半监督模型框架在审
| 申请号： | 202111166569.1 | 申请日： | 2021-09-30 |
| 公开（公告）号： | CN113920395A | 公开（公告）日： | 2022-01-11 |
| 发明（设计）人： | 张梦超;付志兵;李渔;费斌杰 | 申请（专利权）人： | 北京熵简科技有限公司 |
| 主分类号： | G06V10/774 | 分类号： | G06V10/774;G06N3/04;G06F16/35 |
| 代理公司： | 上海剑秋知识产权代理有限公司 31382 | 代理人： | 徐浩俊 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种面向少样本领域的轻量级半监督模型框架，涉及深度学习自然语言处理技术领域，包括：作为预训练的激励网络；作为训练的目标网络，所述目标网络连接于所述激励网络，并与所述激励网络完成若干特征蒸馏；其中，所述激励网络利用一致性正则化和数据增强技术从无监督数据和监督数据中挖掘信息和特征，为后续的所述目标网络的训练提供多级正则化约束。本发明提供的上述框架采用半监督的学习方法，在文本分类中，只需要少量的标注数据，也能达到很好的效果；本发明提供的上述框架采用激励网络来引导目标网络的两阶段训练方法，因为最终的目标网络是轻量级的卷积神经网络，因此，参数量更小，运行时所需资源更少，速度更快。 | ||
| 搜索关键词： | 一种 面向 样本 领域 轻量级 监督 模型 框架 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京熵简科技有限公司，未经北京熵简科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111166569.1/，转载请声明来源钻瓜专利网。
- 上一篇：控制方法及装置
- 下一篇：一种安全出口标示牌自动化组装设备
