[发明专利]机器学习模型的生成方法和装置

权利要求书

1.一种机器学习模型的生成方法，其特征在于，包括以下步骤：

获取初始数据集，并对所述初始数据集进行自动化特征工程处理、自动特征选择和分批次的自适应采样，以得到训练集和验证集；

构建GBDT模型；

利用所述验证集调整所述GBDT模型的参数；

通过所述训练集对调参后的GBDT模型进行训练，以得到第一结果模型；

通过深度学习模型对所述训练集中的数据进行嵌入处理；

通过嵌入处理后的训练集对调参后的GBDT模型进行训练，以得到第二结果模型；

对所述第一结果模型和所述第二结果模型进行融合，以得到目标模型。

2.根据权利要求1所述的机器学习模型的生成方法，其特征在于，自动化特征工程处理包括：

基于时间特征、分类特征、数值特征和多值分类特征做特征间的高阶组合，同时自动提取跨时间、样本和特征的高阶组合。

3.根据权利要求2所述的机器学习模型的生成方法，其特征在于，还包括：

针对数据大小、数据复杂度，自适应选择batch数目，同时对于每个batch，设定不同batch间采样率随时间增加；

在对所述初始数据集进行自动化特征工程处理时，加入关于不同batch数据之间的信息。

4.根据权利要求1-3中任一项所述的机器学习模型的生成方法，其特征在于，分批次的自适应采样包括：

针对数据情况、计算机性能、算法执行时间的限制，自适应地对数据采取不同的采样方式和比例；

采用分批次的方式选取样本。

5.根据权利要求1所述的机器学习模型的生成方法，其特征在于，所述GBDT模型为LightGBM。

6.根据权利要求5所述的机器学习模型的生成方法，其特征在于，利用所述验证集调整所述GBDT模型的参数包括：

利用所述验证集采用随机搜索自动调整LightGBM的学习率、叶子结点、树的深度、行采样和列采样。

7.根据权利要求6所述的机器学习模型的生成方法，其特征在于，还包括：

加入先验知识，设置多组不同的学习率，通过早停法选择LightGBM的学习率，以保证模型能训练一定的轮数，并且通过所述验证集选择最好的学习率。

8.一种机器学习模型的生成装置，其特征在于，包括：

数据处理模块，所述数据处理模块用于获取初始数据集，并对所述初始数据集进行自动化特征工程处理、自动特征选择和分批次的自适应采样，以得到训练集和验证集；

建模模块，所述建模模块用于构建GBDT模型；

调参模块，所述调参模块用于利用所述验证集调整所述GBDT模型的参数；

第一训练模块，所述第一训练模块用于通过所述训练集对调参后的GBDT模型进行训练，以得到第一结果模型；

嵌入处理模块，所述嵌入处理模块用于通过深度学习模型对所述训练集中的数据进行嵌入处理；

第二训练模块，所述第二训练模块用于通过嵌入处理后的训练集对调参后的GBDT模型进行训练，以得到第二结果模型；

融合模块，所述融合模块用于对所述第一结果模型和所述第二结果模型进行融合，以得到目标模型。

9.一种计算机设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现根据权利要求1-7中任一项所述的机器学习模型的生成方法。

10.一种计算机程序产品，其特征在于，当所述计算机程序产品中的指令由处理器执行时，执行根据权利要求1-7中任一项所述的机器学习模型的生成方法。