[发明专利]基于列存储的决策树构造方法、装置、设备及存储介质

说明书

本发明公开了一种基于列存储的决策树构造方法、装置、设备及存储介质，涉及机器学习技术领域，该方法包括：根据当前层中各个节点的第一拆分特征读取对应的列数据，并根据所述列数据将各个样本划分至所述当前层中的各个节点；获取所述各个节点中的分组样本，并统计所述分组样本中各个特征的特征分布情况；根据所述特征分布情况，生成下一层节点，对所述下一层节点进行分裂，直至收敛，获得决策树。由此，基于列存储构造决策树，缩减了数据读取的时间，提升了工作效率。

技术领域

本发明涉及机器学习技术领域，尤其涉及一种基于列存储的决策树构造方法、装置、设备及存储介质。

背景技术

随着计算机技术的发展，越来越多的技术(大数据、分布式、区块链Blockchain、人工智能等)应用在金融领域，传统金融业正在逐步向金融科技(Fintech)转变，但由于金融行业的安全性、实时性要求，也对技术提出了更高的要求。

决策树广泛应用于金融领域，但是当前在的决策树构造主要是基于行存储的方式进行数据读取。在数据量较大的情况下构造决策树，在数据读取过程中会需要耗费大量的时间，进而工作效率不高。

发明内容

本发明提供一种基于列存储的决策树构造方法、装置、设备及存储介质，旨在节约决策树的训练时间，提升工作效率。

为实现上述目的，本发明提供一种基于列存储的决策树构造方法，该方法包括：

根据当前层中各个节点的第一拆分特征读取对应的列数据，并根据所述列数据将各个样本划分至所述当前层中的各个节点；

获取所述各个节点中的分组样本，并统计所述分组样本中各个特征的特征分布情况；

根据所述特征分布情况，生成下一层节点；

对所述下一层节点进行分裂，直至收敛，获得决策树。

优选地，所述各个节点对应不同的第一拆分特征，所述根据所述列数据将各个样本划分至所述当前层中的各个节点的步骤包括：

从所述列数据中获取所述各个样本的第一特征，所述第一特征与所述第一拆分特征对应；

将各个节点的所述第一拆分特征发送至一个或多个执行机，由所述一个或多个执行机根据所述第一特征将所述各个样本划分至所述当前层中的各个节点。

优选地，所述根据所述特征分布情况，生成下一层节点的步骤包括：

将所述特征分布情况发送至一个或多个执行机，由所述一个或多个执行机进行并行求解获得最优值；

将所述最优值作为第二拆分特征生成下一层节点。

优选地，所述根据当前层中各个节点的第一拆分特征读取对应的列数据的步骤包括：

获取当前层中各个节点的所述第一拆分特征，从数据表中读取与所述第一拆分特征对应的列数据。

优选地，所述根据当前层中各个节点的第一拆分特征读取对应的列数据的步骤之前还包括：

扫描样本数据，对所述样本数据进行特征一致性处理，并根据特征将所述样本数据按列存储。

优选地，所述获取所述各个节点中的分组样本，并统计所述分组样本中各个特征的特征分布情况的步骤包括：

将划分至同一个节点的所述样本记为所述分组样本，获取所述各个节点对应的分组样本；

根据预设特征统计规则对所述分组样本进行统计，获得各个特征的特征分布情况。

优选地，所述当前层中的各个节点的第一拆分特征分别是学历、存款和年龄，所述根据当前层中各个节点的第一拆分特征读取对应的列数据，并根据所述列数据将各个样本划分至所述当前层中的各个节点的步骤包括：