[发明专利]一种提高机器学习公平性的方法、电子设备及存储介质

权利要求书

1.一种使用部分敏感群体标签提高机器学习公平性的方法，其特征是，该方法包括以下步骤：

S1、通过基于公平准则的正则项约束父任务的机器学习模型，以提升机器学习模型预测的公平性；

S2、基于贝叶斯公式建模公平准则对于敏感属性学习器的影响，以构建用于有效训练敏感属性学习器的交互式学习框架；

S3、使用基于群组的主动学习算法挑选数据集中的少量样本进行敏感属性标注，在有限的预算下获得最好的模型性能。

2.根据权利要求1所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，所述交互式学习框架由父任务的机器学习模型和敏感属性学习器模型组成，两个模型交互式训练、迭代更新。

3.根据权利要求2所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，所述父任务的机器学习模型的二分类任务以及其他不同的父任务中，使用公平性指标“人口均等”对父任务的机器学习模型的训练进行约束，表达为：，其中代表模型的预测值，代表种群，约束的出发点为使得父任务的机器学习模型对不同种群预测的正类比例相近，并将该公平性指标成为模型学习的目标函数，从“人口均等”的定义出发，基于数学近似进行推导得到损失项为：，其中表示样本的预测伪标签，且由父任务的机器学习模型得到，表示样本的特征，表示样本的敏感属性预测值，表示敏感属性标签中为0的个数，表示敏感属性标签中1的个数。

4.根据权利要求2所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，所述基于贝叶斯公式，对原公平准则进行适当的变形和转化，同样从“人口均等”的定义出发，进行数学推导得到损失项为：，其中表示样本的预测伪标签，且由父任务的机器学习模型得到，表示样本的特征，表示样本的敏感属性标签，表示敏感属性标签中为0的个数，表示敏感属性标签中1的个数。

5.根据权利要求1所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，在步骤S3中，所述最好的模型性能为通过主动选择数据获得标签，挑选得出对模型学习最有价值的样本。

6.根据权利要求3所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，所述主动学习算法的计算过程为：在给定随机挑选的标注样本的基础上，先分多次在敏感属性学习器模型的训练过程中，从样本池中挑选新样本进行标注，并在每轮挑选新样本时，将所有样本按照群组敏感信息进行分组；然后在训练过程中分别计算敏感属性学习器在每个群组的平均损失，选择平均损失最大的群组：，其中，表示敏感属性学习器对样本的损失函数；最后通过增加倍选择族群的概率，使得敏感属性学习器模型能够学习到更多不擅长的样本。

7.根据权利要求6所述的使用部分敏感群体标签提高机器学习公平性的方法，其特征是，所述主动学习算法的具体计算过程为：

（1）群组主动学习，选择一组样本进行标注，表示样本的特征，表示样本的敏感属性标签，询问敏感属性学习器模型后得到样本的敏感属性标签；

（2）优化敏感属性学习器，将样本的特征输入敏感属性学习器模型，得到样本的敏感属性伪标签；

（3）优化父任务模型，将样本的特征、敏感属性伪标签输入父任务的机器学习模型，得到样本的预测伪标签；

（4）将样本的预测伪标签再次输入敏感属性学习器模型，进一步优化敏感属性学习器，并重复上述步骤进行迭代。

8.一种提高机器学习公平性的电子设备，包括存储器以及处理器，存储器存储有计算机可执行指令，处理器被配置为运行所述计算机可执行指令，其特征在于，所述计算机可执行指令被所述处理器运行时实现权利要求1～7任一项所述的使用部分敏感群体标签提高机器学习公平性的方法。

9.一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器运行时实现权利要求1～7任一项所述的使用部分敏感群体标签提高机器学习公平性的方法。