[发明专利]煤气井井段类型预测的代价敏感主动学习方法

权利要求书

1.一种煤气井井段类型预测的代价敏感主动学习方法，其特征在于：

优化目标：总代价最小

k-类别个数；m—属性个数；P(y_j|x_i)-某方案下第i个样本被分为第j类的概率；M-误分类代价；A-属性代价；T-教师代价；X_il-指示函数0/1，为1则表示购买相应位置的缺失属性值；

1)初始训练集

首先使用DP算法，产生c个聚类中心，选择这c个中心作为初始训练集，也是构成最终训练集的第一部分；方法对象：需要聚类的数据集；方法目的：以数据集中的每一个实例的密度为模型基础，将待聚类的实例进行聚类；

2)利用初始训练集，训练出θ

利用最大似然，对参数θ进行估计；

代价函数：

这里的i∈{1，2，…，N}，表示第i个样本，其中N是总样本个数。j∈{1，2，…，k}，表示第j个类别，其中k是总类别个数。加号后面为正则项，能使多余的θ衰减到0，并且加正则项后代价函数为凸，利用梯度下降可得到全局最优解，根据初始训练集可推导出最优参数θ；

具体求解方法：Softmax回归；

对于J(θ)的最小化问题，采用梯度下降法计算，Softmax的函数公式如下：

其中z_j表示第j个样本的输入，a_j表示第几个第j个样本归一化后的输出；

如果样本个数与类标签个数一致，即i＝j时：

如果样本个数与类标签个数不一致，即i≠j时：

在J(θ)代价函数中取出对单一数据对(x⁽ⁱ⁾,y⁽ⁱ⁾)的损失函数loss为：

其中，a_k表示第k个样本的输出，y_k表示第k个样本对应的真实值，取值为0或1；

将C对θ_j求偏导：

其中L表示层数，通常指最后一层；

将损失函数扩充到整个数据集{(x⁽¹⁾，y⁽¹⁾)，...，(x^(m)，y^(m))}上：

则有：

所以在进行随机梯度下降的时候，更新式为：

3)使用Softmax求出样本所属的类别概率

Logistic回归，其训练样本是

{(x⁽¹⁾，y⁽¹⁾)，…，x^(m)，y^(m)}，y∈{-1，+1}，

训练好模型中的参数θ后，给一个新的x⁽ⁱ⁾，就可以根据模型来预测x⁽ⁱ⁾对应的y⁽ⁱ⁾＝1或0的概率；

Logistic回归处理的是二分类问题，而Softmax是在其基础上的扩展，处理的是多分类问题；

对于训练集{(x⁽¹⁾，y⁽¹⁾)，…，(x^(m)，y^(m))}，输入类标签y⁽ⁱ⁾∈{1，2，…，k}；

Softmax回归中将x⁽ⁱ⁾分类为类别j的概率为

利用这个概率来计算误分类代价；

4)计算加权平均值

加权平均值即将各数值乘以相应的权数，然后加总求和得到总体值，再除以总的单位数，若n个数x₁，x₂，…，x_n的权分别是w₁，w₂，…，w_n，那么加权平均值为：

如果数据中各个数值为离散值，则在数据中取最小值和最大值组成区间[min，max]，并将其等分为n个区间，计算落在各个区间的数据平均值以及数据个数k₁，k₂，…，k_n，那么加权平均值为：

将求得的各属性的加权平均值，用于初始的属性值填补中；

5)求总代价

I)属性代价

根据样本中属性缺失的个数，进行不同的属性购买方案，选择不同的属性购买方案，属性代价不同，属性代价计算式为

II)误分类代价

根据上一步中的填补方案，不同的填补方案得到的softmax分类概率不同，选择概率最大的一个概率maxP(y_j|x_i)，将其分类为该类别，则误分类概率为(1-maxP(y_j|x_i))，误分类代价为

(1-maxP(y_j|x_i))·M (12)

III)教师代价

选择样本各属性方案的属性代价与误分类代价之和的最小值，与教师代价做比较，如果大于教师代价，则选择教师代价，直接购买标签，反之则选择该方案下的softmax分类标签；

6)得到优化目标最优解时的方案列表

重复第5)点里的算法，得到整个数据集中每个样本在得到优化目标最优解时的方案，构成一个整体方案列表；

7)求预测标签

按照得到的方案列表，对每一个样本进行相应的真实属性值购买，并用softmax求得最终的分类结果。

2.根据权利要求1所述的一种煤气井井段类型预测的代价敏感主动学习方法，其特征在于：初始训练集具体步骤：

步骤一：计算所有节点间的距离d_ij；

步骤二：取一个截断距离d_c；

步骤三：通过公式(2)计算每一个节点i的密度ρ_i；

χ(x)为一种0-1函数，当x＜0时χ(x)＝1，否则χ(x)＝0，ρ_i的意义实际上是与节点i距离小于d_c的节点的个数；

步骤四：对于每一个节点i，都找到所有比该节点i密度大的实例j，选取其中最小的距离d_ij，记为δ_i；

对于拥有最高密度的节点j，其δ_i为所有节点到节点i的最大距离；

步骤五：以ρ为横坐标，以δ为纵坐标，画二维图，在图上选取位于右上的节点作为类中心；

步骤六：将剩余点进行分配，对于每一个剩余点，其所属的聚类是其最邻近且密度比其大的节点的聚类。