[发明专利]基于上下文的汉越跨语言句嵌入方法在审
申请号: | 202210544674.2 | 申请日: | 2022-05-19 |
公开(公告)号: | CN114861631A | 公开(公告)日: | 2022-08-05 |
发明(设计)人: | 黄于欣;武照渊;余正涛 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/279;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 昆明隆合知识产权代理事务所(普通合伙) 53220 | 代理人: | 何娇 |
地址: | 650500 云南*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及基于上下文的汉越跨语言句嵌入方法,属自然语言处理领域。本发明首先构建训练数据集;再利用mBERT模型获取训练数据集中对应的汉越上下文跨语言句嵌入,并基于孪生网络结构搭建线性微调层,对获取到的汉越上下文跨语言句嵌入进行重构,并以此构建对比损失用于反向优化微调层。本发明通过构建融合孪生网络结构的线性微调层对mBERT模型中获取到的汉越上下文跨语言句嵌入进行重构,有效缓解了mBERT模型中因汉越句级平行语料稀缺及语法差异较大导致的汉越跨语言句嵌入语义对齐效果不佳的问题。实验结果表明,本发明的准确度均取得了较大提升,提高汉越嵌入分布间的重合度,改善汉越低资源上下文跨语言句嵌入的语义对齐效果。 | ||
搜索关键词: | 基于 上下文 汉越跨 语言 嵌入 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210544674.2/,转载请声明来源钻瓜专利网。