[发明专利]一种结合Transformer的轻量化中文语音识别方法在审
申请号: | 202210537631.1 | 申请日: | 2022-05-18 |
公开(公告)号: | CN114999460A | 公开(公告)日: | 2022-09-02 |
发明(设计)人: | 孙俊;沈逸文 | 申请(专利权)人: | 匀熵智能科技(无锡)有限公司 |
主分类号: | G10L15/02 | 分类号: | G10L15/02;G10L15/06;G10L19/02;G10L19/16;G10L25/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 辽宁鸿文知识产权代理有限公司 21102 | 代理人: | 王海波 |
地址: | 214072 江苏省无锡市*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种结合Transformer的轻量化中文语音识别方法,属于语音识别领域。首先使用深度可分离卷积获得音频特征信息;其次构建了双半步剩余权重前馈神经网络层:Macaron‑Net结构,并引入低秩矩阵分解,实现了模型压缩。为了验证模型,在不使用任何语言模型的前提下,本发明在Aishell‑1和aidatatang_200zh数据集上进行了测试。实验结果显示,本发明模型与Open‑Transformer相比,本发明模型在字错误率上相对下降了19.8%,在实时率上相对下降了32.1%。 | ||
搜索关键词: | 一种 结合 transformer 量化 中文 语音 识别 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于匀熵智能科技(无锡)有限公司,未经匀熵智能科技(无锡)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210537631.1/,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法