[发明专利]一种基于多任务学习的回归预测方法及应用

说明书

本发明公开了一种基于多任务学习的回归预测方法及应用，首先结合S‑G卷积平滑算法、多元散射校正以及中心化处理方法对原始数据进行预处理，转换成稳定的序列数据；还将原始数据通过短时傅里叶变换转换为二维频谱图；然后将预处理后的数据分两路输入到搭建的多任务卷积神经网络回归模型，分别将序列数据输入到模型的一维卷积中，将频谱图输入到模型的二维卷积中进行处理，实现在单一模型预测输出多属性值。

技术领域

本发明属于深度学习技术领域，特别涉及一种基于多任务学习的回归预测方法及应用。

背景技术

回归预测在很多的方面得到应用，比如疾病预测，天气预测，市场预测，股价预测，实时业务预报等方面。它从实际出发，提取数据特征，构建概率统计模型进行数据的分析与预测。

回归问题实际上是函数空间的优化问题，目的是求出因变量关于自变量的函数，使损失函数的期望最小。回归问题按照自变量和因变量的关系，通常分为线性回归分析和非线性回归分析。在许多实际的问题中，其回归函数大多数是比较复杂的非线性函数。早期的研究中提出了多种多元线性回归方法，比如：Chang的主成分回归(PCR)、McCarty的偏最小二乘回归(PLSR)方法以及FrideMan的梯度提升回归树等。之后随着机器学习的发展，决策树、支持向量回归、遗传算法和Cubist等方法也被用来提升模型预测能力。但相对于传统的数学建模和机器学习方式，深度学习方法具备更高的计算效率和更强大的建模能力，能够自主地提取特征进行学习，挖掘复杂数据中的本质信息，从而提高了预测的准确性。但是，只是单一的使用模型预测无法提高学习效率。

现有的回归预测方法大多都是基于一种模型进行一种任务预测，对于现在大多都是进行的多种任务来说，难免耗时长、效率低，使我们无法同时得到预测多种属性。多任务学习是一种利用每个任务之间的相关性来训练和预测的学习框架，传统的STL方法一次只能学习一项特定的任务，这种方式训练出来的模型虽然总体性能不错，但是如果要地预测多种任务，每一个模型都需要重复的对数据进行特征提取、训练等操作，这样可能会造成耗时长并且在某些类别上预测准确性很低的情况。

发明内容

针对现有技术存在的不足，本发明提供一种基于多任务学习的回归预测方法及应用，搭建卷积神经网络回归模型实现多任务学习，实现在单一模型预测输出多属性值。

为了解决上述技术问题，本发明采用的技术方案是：

一种基于多任务学习的回归预测方法，包括：

步骤1、数据预处理：结合S-G卷积平滑算法、多元散射校正以及中心化处理方法对原始数据进行预处理，转换成稳定的序列数据；另外，将原始数据通过短时傅里叶变换转换为二维频谱图；

步骤2、搭建模型：将预处理后的数据分两路输入到搭建的多任务卷积神经网络回归模型，分别将序列数据输入到模型的一维卷积中，将频谱图输入到模型的二维卷积中进行处理；

步骤3、网络评估：从模型的回归拟合度和预测精度两个方面评估模型性能，采用决定系数(R²)、建模均方根误差(RMSEC)、预测均方根误差(RMSEP)和预测相对分析误差(RPD)来作为统一、客观的评价标准。

进一步的，原始数据通过预处理之后，作为模型的输入进入隐含层形成更为抽象的深层表示，经过卷积层、池化层提取并学习数据的内部特征，同时获取局部抽象特征映射，最后经过全连接层的信息整合，分别输出预测值。

进一步的，所述的多任务卷积神经网络回归模型的网络结构中，前面的卷积层和池化层为所有预测任务之间共享的隐藏层，用于每个任务学习数据中的共享特征；之后通过不同的全连接层分支进行特定的任务预测，分别如下：