[发明专利]一种利用信息熵消歧的弱监督分词方法在审
申请号: | 202210826380.9 | 申请日: | 2022-07-13 |
公开(公告)号: | CN115204169A | 公开(公告)日: | 2022-10-18 |
发明(设计)人: | 线岩团;贺靖强;黄于欣;文永华 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/242;G06N3/04;G06N3/08 |
代理公司: | 云南盛恒知识产权代理有限公司 53224 | 代理人: | 马斌 |
地址: | 650093 云*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种利用信息熵消歧的弱监督分词方法,涉及自然语言处理技术领域。利用已有词典将未标注的分词数据分别进行正向和逆向最大匹配,将两种匹配结果合并后得到带有噪声的已标注分词数据;利用预训练语言模型获得输入文本的向量序列,将向量序列送入基于候选词首尾字符的打分模型;结合多标签分类损失计算切分的损失,针对歧义部分,基于信息熵最小计算损失;最后基于贪心策略解码。本发明提出的一种利用信息熵消歧的弱监督分词方法,在两个数据集上,相比于基线模型,评价指标F1平均提高了5.25%,集外词(outofvocabulary,OOV)的召回率平均提高了76.9%。 | ||
搜索关键词: | 一种 利用 信息 熵消歧 监督 分词 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210826380.9/,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置