[发明专利]一种基于分层量化的轻量级神经网络语音关键词识别方法

说明书

本发明公开了一种基于分层量化的轻量级神经网络语音关键词识别方法，属于计算、推理、计数的技术领域。该系统包括：语音采集模块、特征提取模块、轻量级神网络加速器以及分层8bits量化模块等。轻量级神经网络采用深度可分离卷积神经网络和注意力机制Squeeze‑and‑Excitation，通过将传统卷积替换成深度可分离卷积，降低神经网络的参数量和计算量，通过引入注意力机制，标注卷积过程中不同通道上特征的重要程度，提高模型的识别准确率，通过对神经网络的权重值量化和激活值分层8bits量化，进一步降低模型的计算复杂度和神经网络的参数量，通过设计支持通道分离卷积和传统卷积的加速器，满足对数据带宽的不同需求，从而加速前向推理计算的过程。

技术领域

本发明涉及一种基于分层8bits量化轻量级神经网络的语音关键词识别方法及系统技术，属于计算、推理、技术的技术领域。

背景技术

随着越来越多的智能语音助手出现在我们的生活中，我们会愈发地感受到，人们与智能终端的交互方式，正从触控模式慢慢转入到语音交互的模式上。同时，随着设备计算能力的发展、语音关键词识别技术的积累和语音数据的丰富，智能音响、车载语音交互等行业呈现出快速发展的状态，人机交互的频率越来越高，语音关键词识别相关的应用已经开始实实在在地在我们日常生活中普及开来，语音关键词识别系统拥有很多应用场景，如智能音响、车载交互等。

目前语音关键词识别主要通过云端和终端两种方式部署。通过云端方式识别，由于云端的资源充足，可以部署大型的神经网络进行语音识别，识别率非常高，但是在云端进行语音识别就需要将语音数据上传到云端，存在着数据泄露、数据传输延迟及成本高等问题。由于离线识别能够保障数据的安全性和实时性，所以在终端部署语音识别能够避免云端部署存在的问题，但是在终端部署高准确率的识别系统也面临着资源有限的问题。另外，语音关键词识别的精度、功耗及速度之间的平衡关系因不同的场景而变化。

发明内容

技术问题：本发明的发明目的是针对上述背景技术的不足，提出了一种基于分层量化的轻量级神经网络语音关键词识别方法，充分利用深度可分离卷积所带来的参数量和计算量大量减少的优势和注意力机制标注卷积过程中不同通道上特征的重要程度，进而提高模型识别的准确度和速度。通过分层8bits量化操作，将浮点运算转变成定点运算，减低了计算的复杂度与能耗，解决了现有语音关键词识别系统在移动终端和嵌入式设备中部署的技术问题。

技术方案：本发明的一种基于分层量化的轻量级神经网络语音关键词识别方法采用主要步骤如下：

步骤1.获取关键词语音音频数据集并对关键词语音音频数据进行增强；

步骤2.对所述增强的关键词语音音频数据通过特征提取模块提取音频信号中的声学特征；

步骤3.将所述音频信号中的声学特征组成特征向量送入到轻量级神经网络模型中进行训练，根据训练结果保存神经网络各层的权重参数，通过分层8bits量化将权重参数量化成8位并保存。

步骤4.设计支持通道分离卷积和传统卷积的神经网络加速器，加载所述量化后的8位权重到神经网络加速器中，加速前向推理计算过程，根据神经网络加速器的输出得到不同关键词的概率值；

步骤5.将所述不同关键词概率值中的最大值和预设阈值进行比较，大于阈值则根据预测结果判别输入的语音关键词，小于阈值则表示输入的语音中没有关键词。

所述语音增强包括添加噪声信号、对关键词信号随机左移或右移，增强系统的鲁棒性。