[发明专利]一种基于随机傅里叶特征的核递归最大相关熵时间序列在线预测方法

权利要求书

1.一种基于随机傅里叶特征的核递归最大相关熵时间序列在线预测方法，其特征在于，包括以下步骤：

S1.收集时间序列历史数据并进行预处理，构建数据样本

所述预处理方法为相空间重构方法；根据相空间重构理论，将收集的时间序列进行重构；并且构建如下的数据样本

其中，n＝1,2,...,N，N为数据样本的个数，ρ为嵌入维数，τ为延迟时间，x(n)是第n个输入向量，d(n)是输出信号；对于核方法，预测函数其中是由Mercer核引入的非线性映射，它将输入x映射至高维特征空间H中，·,·_H表示H中的内积，W是模型权重矩阵；

S2.对模型各个参数进行初始化；

S201.第一类模型参数包括最大互相关熵准则中的核宽度σ、随机傅里叶特征的维度D、所述步骤S1中Mercer核的核宽度σ′、遗忘因子λ，对上述四个模型参数进行初始化；两个核宽度对应的核函数均为高斯核函数；

S202.第二类模型参数包括等效映射中的参数ω_r和b_r，按照如下规则选取并进行初始化：

服从参数为0和I_d/σ′²的正态分布，其中，r＝1,2,...,D，d表示输入的维度，I_d表示d维的单位矩阵，D表示随机傅里叶特征的维度；

服从区间[0,2π]上的均匀分布；

S203.第三类模型参数为模型递归过程中的过程变量：权重矩阵W(n)、中间矩阵Q(n)；对其进行初始化，即n＝0时：

其中，I_D为D维的单位矩阵；

S3.根据步骤S1构建的数据样本及步骤S2中选定的各项参数，递归地训练模型，其中n的取值从1到N，包括以下子步骤：

S301.计算随机傅里叶特征向量：

其中，参数ω_r和b_r通过所述步骤S202选取得到；

通过上述操作，随机傅里叶特征构建一个有限维映射，即将Mercer核近似为一个固定大小D的矩阵，因此在每次迭代时都只需要固定的时间和内存；

S302.对模型参数进行迭代更新：

计算预测误差：

e(n)＝d(n)-W(n-1)^Tz(x(n)) (4)

计算中间变量：

其中，

更新中间矩阵：

Q(n)＝λ^-1[Q(n-1)-m²K(n)z(x(n))^TQ(n-1)] (6)

更新模型权重矩阵：

W(n)＝W(n-1)+m²K(n)e(n) (7)

此时，能够得到当前步骤的模型权重矩阵；

S303.更新n，即n＝n+1，判断是否结束训练：

若n＜N，则进行下一次迭代更新，返回步骤S301；否则，训练完成得到模型权重矩阵W(N)，进入下一步；

S4.利用步骤S3训练好的模型对新输入模型的数据进行预测，对模型进行验证；包括以下子步骤：

S401.计算的随机傅里叶特征向量：

S402.根据步骤3得到的模型权重矩阵，计算预测值：

其中，W(N)表示S3步骤中最终训练得到的权重系数。