[发明专利]用于确定机器学习样本的重要特征的方法及系统

说明书

提供了一种用于确定机器学习样本的重要特征的方法及系统，所述方法包括：(A)获取历史数据记录，其中，所述历史数据记录包括多个属性信息；(B)基于所述多个属性信息生成至少一个候选特征；(C)对所述至少一个候选特征进行重要性的预排序，并根据预排序结果从所述至少一个候选特征中筛选出一部分候选特征以组成候选特征池；以及(D)对候选特征池中的各个候选特征进行重要性的再排序，并根据再排序结果从候选特征池中选择重要性较高的至少一个候选特征作为重要特征。通过特定方式的预排序和再排序从候选特征中筛选出相对重要的特征，从而可在使用较少运算资源的情况下有效地确定重要特征，有助于提升机器学习模型的效果。

本申请是申请日为2017年09月08日、申请号为201710804531.X、题为“用于确定机器学习样本的重要特征的方法及系统”的专利申请的分案申请。

技术领域

本发明总体说来涉及人工智能领域，更具体地说，涉及一种用于确定机器学习样本的重要特征的方法及系统。

背景技术

随着海量数据的出现，人工智能技术得到了迅速发展，而为了从海量数据中挖掘出价值，需要基于数据记录来产生适用于机器学习的样本。

这里，每条数据记录可被看做关于一个事件或对象的描述，对应于一个示例或样例。在数据记录中，包括反映事件或对象在某方面的表现或性质的各个事项，这些事项可称为“属性”。通过对数据记录的属性信息进行诸如特征工程等处理，可产生包括各种特征的机器学习样本。

实践中，机器学习模型的预测效果与模型的选择、可用的数据和样本特征的提取均有关系。此外，应用机器学习技术时还需要面对计算资源有限、样本数据不足等客观问题。因此，如何从原始数据记录的各个属性提取出机器学习样本的特征，将会对机器学习模型的效果带来很大的影响。相应地，不论从模型训练还是模型理解的角度来看，都很需要获知机器学习样本的各特征(包括特征组合)的重要程度。例如，可根据基于XGBoost训练出的树模型，计算每个特征的期望分裂增益，然后计算特征重要性。上述方式虽然能考虑特征之间的相互作用，但训练代价高，且不同参数对特征重要性的影响较大。

实际上，特征的重要性难以直观确定，往往需要技术人员不仅掌握机器学习的知识，还需要对实际预测问题有深入的理解，而预测问题往往结合着不同行业的不同实践经验，这些因素都导致特征提取很难达到满意的效果。

发明内容

本发明的示例性实施例旨在克服现有技术中难以有效地衡量机器学习样本特征重要性的缺陷。

根据本发明的示例性实施例，提供一种用于确定机器学习样本的重要特征的方法，包括：(A)获取历史数据记录，其中，所述历史数据记录包括多个属性信息；(B)基于所述多个属性信息生成至少一个候选特征；(C)对所述至少一个候选特征进行重要性的预排序，并根据预排序结果从所述至少一个候选特征中筛选出一部分候选特征以组成候选特征池；以及(D)对候选特征池中的各个候选特征进行重要性的再排序，并根据再排序结果从候选特征池中选择重要性较高的至少一个候选特征作为重要特征。

可选地，在所述方法中，在步骤(C)中，基于第一数量的历史数据记录进行预排序；在步骤(D)中，基于第二数量的历史数据记录进行再排序，并且，第二数量不少于第一数量。

可选地，在所述方法中，第二数量的历史数据记录包括第一数量的历史数据记录。

可选地，在所述方法中，在步骤(C)中，根据预排序结果从所述至少一个候选特征中筛选出重要性较高的候选特征以组成候选特征池。

可选地，在所述方法中，在步骤(C)中，通过以下处理来进行预排序：针对每一个候选特征，得到预排序单特征机器学习模型，基于各个预排序单特征机器学习模型的效果来确定各个候选特征的重要性，其中，预排序单特征机器学习模型对应所述每一个候选特征。