[发明专利]一种基于BERT的中间层改进技术方法在审
| 申请号： | 202110255573.9 | 申请日： | 2021-03-09 |
| 公开（公告）号： | CN113095362A | 公开（公告）日： | 2021-07-09 |
| 发明（设计）人： | 潘晓光;张娜;焦璐璐;令狐彬;马文芳 | 申请（专利权）人： | 山西三友和智慧信息技术股份有限公司 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06N20/00 |
| 代理公司： | 深圳科润知识产权代理事务所(普通合伙) 44724 | 代理人： | 李小妮 |
| 地址： | 030000 山西省*** | 国省代码： | 山西;14 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于应用BERT模型的改进技术领域，具体涉及一种基于BERT的中间层改进技术方法，包括如下步骤：数据采集、数据预处理、模型训练微调、对比实验、最优模型保存，所述数据采集采集模型所需的文本数据，并对其类别进行标注，构建模型所需的数据集；所述数据预处理对数据集进行预训练，对于文本数据的前90％进行序列长度为128的迭代，对于后10％进行512序列长度的迭代；所述模型训练微调对模型进行训练微调，维系改进后的网络结构精确度；所述对比实验从不修改网络逐步减少中间层直到没有中间层，记录过程中精准度的变化、参数规模变化以及吞吐量的变化；所述最优模型保存选择保存参数变化最大的和吞吐量最大的模型。 | ||
| 搜索关键词： | 一种 基于 bert 中间层 改进 技术 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于山西三友和智慧信息技术股份有限公司，未经山西三友和智慧信息技术股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110255573.9/，转载请声明来源钻瓜专利网。
