[发明专利]一种基于稀疏化方法的核最小均方时间序列在线预测模型

权利要求书

1.一种基于稀疏化方法的核最小均方时间序列在线预测模型，其特征在于，包括如下步骤：

步骤1：从实际数据中获取时间序列预测问题的样本数据，包括输入数据x(n)＝[x₁(n)；x₂(n)；...x；_m(n)]和预测目标y(n)，其中x_i(n)为第i个特征序列；

步骤2：运用归一化方法处理实验数据，采用归一化方法公式为：

其中，x_i和分别代表样本数据归一化前后的值，x_max和x_min分别代表样本数据的最大值和最小值；

步骤3：划分训练集和测试集，并设置模型参数；

随机选取样本数据90％作为训练集，其余作为测试集；依据经验设置模型参数，包括模型学习率η，顺序异常值准则的用户定义系数λ_d和λ_v，量化阈值参数ε以及自适应调整参数初始化模型参数，预测误差e(n)＝y(1)，权重向量α₁＝η·e(1)，模型字典D(1)＝x(1)；

步骤4：训练集数据按顺序进入预测模型进行训练；利用顺序异常值准则，剔除实验数据中的异常数据；所述的顺序异常值准则是依据历史数据，为新到达的数据建立预期区域，如果新数据超出预期区域，则将其标记为离群值；所述的预期区域由预期邻居距离和预期邻居方向向量组成；

4.1)在给定现有数据的信息的情况下，根据预期邻居距离推断顺序邻居数据之间的预期距离；根据预期邻居距离判断数据是否是异常值，预期邻居距离定义为：

其中，ND_e(n)表示第n次迭代时的预期邻居距离；dx_i,x_i+1＝||x(i+1)-x(i)||为相邻距离；系数2i/(n-2)(n-1)用于将更高的权重分配给更接近新数据的相邻距离；

第n次迭代的预期邻居距离的上边界和下边界被定义为：

其中，B_D_upper(n)和B_D_lower(n)分别表示第n次迭代中预期邻居距离的上边界和下边界；λ_d表示用户定义的系数；σ_d(n)表示{dx_i,x_i+1,i＝1,2,...,n-2}的标准差；

计算相邻距离dx_n-1,x_n；如果超出预期邻居距离的既定范围，则第n个数据将被怀疑为异常值；所述预期邻居距离的既定范围为[ND_e(n)-λ_dσ_d,ND_e(n)+λ_dσ_d]；

4.2)在给定所有现有数据的信息的情况下，预期邻居方向向量描述在顺序邻居数据之间的预期方向向量，进而推断出数据可能朝向的方向；预期邻居方向向量定义为：

其中，NV_e(n)表示第n次迭代时的预期邻居方向向量；采用系数2i/(n-2)(n-1)是为更接近新数据的方向矢量分配更高的权重；

在第n次迭代中预期的邻居方向矢量的上边界和下边界被定义为：

其中，B_V_upper(n)和B_V_lower(n)分别表示第n次迭代时预期邻居方向向量的上边界和下边界；λ_v表示用户定义的系数；σ_v(n)表示{[x(i+1)-x(i)]/dx_i,x_i+1,i＝1,2,...,n-2}的标准差；

计算相邻方向向量[x(n)-x(n-1)]/dx_n-1,x_n，如果超出预期邻居方向向量的既定范围，则第n个数据将被怀疑为异常值；所述的预期邻居方向向量的既定范围为[NV_e(n)-λ_vσ_v,NV_e(n)+λ_vσ_v]；

4.3)第n次迭代时，预期邻居距离和预期邻居方向向量的既定范围构成新到达数据的预期区域；如果当前相邻距离dx_n-1,x_n不在[ND_e(n)-λ_dσ_d,ND_e(n)+λ_dσ_d]区间内，同时当前相邻方向向量[x(n)-x(n-1)]/dx_n-1,x_n不在[NV_e(n)-λ_vσ_v,NV_e(n)+λ_vσ_v]区间内，则新到达的数据被标记为异常值；此时该数据将被剔除，开始迭代下一个训练集数据；

步骤5：当迭代次数为n时，当前的输入为{x(n),y(n)}；依据之前迭代所训练的临时预测模型计算预测目标并得到预测误差e(n)；

所述的预测目标其中，α_n-1表示权重向量；κ_n-1表示核矩阵，对κ_n-1进行说明如下：κ_n-1＝κ(D(n-1),x(n-1))，κ(x_i,x_j)＝exp(-||x_i-x_j||/2σ²)，这里采用高斯核，σ为核宽度；x_i,x_j表示任意的两个输入向量；D(n-1)表示第n次迭代时字典未更新前的状态，它包含被纳入字典的输入向量；

所述的预测误差

步骤6：运用量化方法减小模型字典大小并更新权值系数；首先，计算x(n)与字典D(n-1)之间的距离：dis(x(n),D(n-1))＝min_1≤j≤n-1||x(n)-D_j(n-1)||，其中，j表示字典D(n-1)的第j个成员，||·||表示Euclidean范数；如果计算的距离dis(x(n),D(n-1))小于设置的量化参数ε，则不更新字典：D(n)＝D(n-1)；输入数据将被量化到D_j(n-1)，此时系数α_n更新为α_n＝α_j+η·e(n)；否则，将更新字典：D(n)＝D(n-1)∪x(n)，x(n)将成为现有字典中的新中心，此时系数α_n＝[α_n；η·e(n)]；

步骤7：采用自适应调整方法更新权值系数；权值更新为：

其中，是用户定义的参数，其目的是避免分母为零；

步骤8：利用训练好的模型对测试集数据进行测试，然后对预测值和测试集中的目标值进行反归一化计算；最后，计算预测值与测试集中目标值之间的均方根误差RMSE和对称平均绝对百分比误差SMAPE；

其中，y(n)为目标值，为预测值，n是时间步数，N为样本总数；

步骤9：调整模型用户设定参数，并执行步骤4-8，得到多个训练好的模型和对应的评价指标RMSE和SMAPE；选取RMSE和SMAPE最小的模型作为预测模型。