[发明专利]一种基于扩展熵的无监督特征的选择方法及系统

权利要求书

1.一种基于扩展熵的无监督特征的选择方法，其特征在于，所述选择方法包括：

根据原始备选特征集中的任意备选特征变量与所述原始备选特征变量集中剩余备选特征变量之间的相关度，从所述原始备选特征集中选择第一个特征变量，并将所述第一个特征变量添加到已选特征集中，从所述原始备选特征集中剔除所述第一个特征变量；

根据当前备选特征集中的任意备选特征变量与所述备选特征集中剩余备选特征变量之间的相关度、当前备选特征集中的任意特征变量与已选特征集之间的信息损失量，确定当前特征变量以及对应的相关度变化参数；

将当前特征变量添加到已选特征集中，更新已选特征集；

判断所述相关度变化参数是否小于设定阈值，如果是则选择结束，当前已选特征集包含全部无监督特征变量；否则，将从当前备选特征集中剔除当前特征变量，更新备选特征集，继续选择下一个特征变量。

2.根据权利要求1所述的基于扩展熵的无监督特征的选择方法，其特征在于，所述根据原始备选特征集中的任意备选特征变量与所述原始备选特征变量集中剩余备选特征变量之间的相关度，从所述原始备选特征集中选择第一个特征变量，具体包括：

根据以下公式确定备选特征集中各个特征变量y_i对应的扩展概率r(j|y_i)：

r(j|yi)=yijyi1+yi2+...+yin;]]>

其中，y_i＝(y_i1,y_i2,...,y_in),i＝1,2,...,m，m表示备选特征变量的序号，n表示每个备选特征变量的特征值的序号，j＝1,2,...,n；

将两个备选特征变量y_p,y_q,p,q∈{1,2,...,m}，合并所生成c的扩展概率r(j|c)：

r(j|c)=|yp||yp∪yq|r(j|yp)+|yq||yp∪yq|r(j|yq);]]>

根据以下公式计算当前备选特征集中的各备选特征变量与当前备选特征集中其余备选特征变量之间的信息损失量d(y_i,{Y_k/y_i})：

d(yi,{Yk/yi})=Σj=1nr(j|yi)logr(j|yi)r(j|Yk)+Σj=1nr(j|{Yk/yi})logr(j|{Yk/yi})r(j|Yk);]]>

r(j|Yk)=1|Yk|Σyl⋐YKyljyl1+yl2+...+yln;]]>

r(j|{Yk/yi})=1|Yk/yi|Σyl⋐{Yk/yi}yljyl1+yl2+...+yln;]]>

其中，|·|表示向量的势；

根据以下公式确定所述第一个特征变量

ρ(y_i,{Y₀/y_i})＝1/d(y_i,{Y₀/y_i})；

y1*=arg max1≤i≤mρ(yi,{Y0/yi});]]> 1

其中，0≤k≤m，Y_k表示原始备选特征集中剔除了k个特征向量的备选特征集，Y₀表示原始备选特征集，Y₀＝{y₁,y₂,...,y_m}，Y₀/y_i表示原始备选特征集Y₀中除备选特征变量y_i以外的剩余备选特征变量，argmax()为取最大值函数。