[发明专利]一种基于不完整数据的贝叶斯半监督鲁棒PPLS软测量方法

权利要求书

1.一种基于不完整数据的贝叶斯半监督鲁棒PPLS软测量方法，其特征在于：包含不完整数据的贝叶斯半监督鲁棒PPLS模型和贝叶斯变分推理的模型参数学习两部分；具体包含如下步骤；

步骤1，初始化先验分布参数以及隐变量分布超参数；

步骤2，根据训练数据集使用基于EM算法的PPLS方法确定初始模型参数以及隐变量参数；

步骤3，根据贝叶斯变分推理方法计算隐变量后验分布q(Δ)并更新模型参数以及隐变量；

步骤4，求解优化问题求解最优先验超参数v；

步骤5，根据近似后验分布计算对数似然函数的变分下界；

步骤6，判断是否满足收敛条件，若满足则对未知数据样本对应的质量数据进行预测，实现质量指标的软测量；反之则，返回步骤3。

2.根据权利要求1所述的一种基于不完整数据的贝叶斯半监督鲁棒PPLS软测量方法，其特征在于：在步骤6中，模型收敛条件即为似然函数L(q(Δ),Θ)变化小于事先确定的阈值thr，即

|L(q(Δ^(t+1)),Θ^(t+1))-L(q(Δ^(t)),Θ^(t))|＜thr

其中，L(q(Δ^(t)),Θ^(t))与L(q(Δ^(t+1)),Θ^(t+1))分别表示第t次、t+1次迭代时的值，阈值thr设置为10^-5。

3.根据权利要求1所述的一种基于不完整数据的贝叶斯半监督鲁棒PPLS软测量方法，其特征在于：不完整数据的贝叶斯半监督鲁棒PPLS模型，具体包含如下步骤；

给出标记样本的输出与输入无标记样本且满足N＝N_L+N_u，观测噪声和过程噪声均服从独立t-分布，其中，N_L和N_u分别表示标记和未标记样本数据量，D和E分别表示样本输入和输出的维数，设PLS输入数据和输出数据之间共享隐变量则概率PLS模型可以表示为

其中，与为权重矩阵，为共享隐变量，μ_x和μ_y分别为过程变量与观测变量的均值向量；x、y分别为维数为D与E的列向量，过程数据噪声服从t-分布v_x＝[v_x,1,v_x,2,…,v_x,D]，τ_x＝[τ_x,1,τ_x,2,…,τ_x,D]；观测数据噪声ε_y同样服从独立t-分布，其形式与上相同，其中，学生t-分布具有如下形式

其中，为Gamma函数,表示具有形状参数a'和逆尺度参数b'的Gamma分布，v'为自由度；t-分布解释为无限个高斯分布的混合，u'为隐变量控制变量的噪声水平；对隐变量t，模型参数P、C、μ以及噪声水平τ的先验类似于PPCA，其形式为

p(t)＝N(t|0,I_M) (3)

其中，表示τ_x和τ_y组成的列向量，表示μ_x和μ_y组成的向量，β表示β_x和β_y，其中，T表示矩阵或向量的转置；参数τ用于P、C、μ先验，噪声水平参数τ的先验为Gamma分布，每个变量的分布是相互独立的，即

参数α＝[α_x,α_y]和β的先验为

p(β)＝Ga(β|a_β,b_β)

在仿真中，为获得较为宽广分布，超参数设置为a_τ＝b_τ＝a_α＝b_α＝a_β＝b_β＝10^-5，对各项各向同性的噪声，所有的噪声水平参数相同，即可设τ_m＝τ；

令表示标记数据组成的矩阵，表示标记数据样本，标记样本和未标记样本集的所有输入组成的矩阵，表示权重矩阵，表示标记样本噪声，表示均值向量，表示噪声分布的超参数向量，表示过程变量和观测变量噪声水平向量，表示标记样本和未标记样本对应的共享隐变量，表示标记样本和未标记样本对应的隐变量，对第n个标记样本如果z_n元素是独立观测得到，那么其元素z_dn是相互独立的，若此假设是成立的，可使用独立学生t-分布对z_n的噪声变量ε_n的每个元素进行建模，n＝1,2,…,N_L，d＝1,2,…,D+E；则关于标记样本的似然函数为

其中O表示z_dn可观测的指示dn集合，w_d为W的第d个行向量，d＝1,2,…,D+E，n＝1,2,…,N_L，对于未标记样本其对应的似然函数为

其中，O'表示未标记样本X^u的可观测元素指示d'n'集合，注意这里w_d'等价于p_d'，d'＝1,2,…,D，n'＝N_l+1，N_l+2,…,N，μ_1:D表示向量μ的第1个元素到第D元素组成向量即为μ_x；

引入隐变量U，学生t-分布可使用高斯分布构建，则考虑所有标记样本和未标记样本的似然函数

其中，W_1:D,:表示矩阵W的第1行到第D行的行向量组成的矩阵，即为矩阵P。