[发明专利]一种基于机器学习模型的企业风险评估方法在审
| 申请号: | 201910722029.3 | 申请日: | 2019-08-06 |
| 公开(公告)号: | CN110443304A | 公开(公告)日: | 2019-11-12 |
| 发明(设计)人: | 李振;鲍东岳;张刚;尹正 | 申请(专利权)人: | 民生科技有限责任公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00;G06Q10/06 |
| 代理公司: | 北京金智普华知识产权代理有限公司 11401 | 代理人: | 巴晓艳 |
| 地址: | 101300 北*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 企业风险评估 验证集 字段 预测 测试子集 基于机器 交叉验证 模型融合 模型算法 训练集 概率 学习 应用前景广阔 模型训练 企业特征 训练模型 层级联 多机器 级联 架构 融合 | ||
本发明涉及企业风险评估技术领域,提供了一种基于机器学习模型的企业风险评估方法,将企业特征数据拆分为训练集和验证集,确定3个用于企业风险评估的模型算法;模型训练:将训练集进行5折交叉验证,同时使用3个所述模型算法训练模型;5份测试子集每个模型的预测概率值均形成一个新的字段;将所有新的字段与原始部分字段放在一起,使用stacking模型通过5折交叉验证再次学习,得出测试子集的最终预测概率值;对验证集进行预测,得到验证集的预测概率值。本发明采用了级联的模型融合方式,发挥多机器学习模型的优势,分别用3模型进行训练,并调优;使用三层级联的架构以及stacking融合的方式将模型融合;方法简单易用,应用前景广阔。
技术领域
本发明涉及企业风险评估技术领域,特别涉及一种基于机器学习模型的企业风险评估方法。
背景技术
目前市场上的企业风险评估产品较少,且基本是专家评分为主,即使有模型产品也多数基于逻辑回归的单模型的算法。逻辑回归做企业风险评估对数据要求很高,且经常达不到理想的精度。比如,逻辑回归不擅长处理含有大量的字符型特征的数据,不擅长处理数值型变量与目标变量之间不存在线性关系的特征,不擅长处理特征较多的模型,不擅长处理特征含有很多空值的情况等;其次逻辑回归容易欠拟合,精度不够;最后逻辑回归对自变量的多重共线性比较敏感,经常需要去除相关性较高的变量。此外,仅仅使用单模型来训练模型,可能会导致模型不稳定。
发明内容
本发明的目的之一就是克服现有技术的不足,提供了一种基于机器学习模型的企业风险评估方法,使用了级联的模型融合方式,发挥多机器学习模型的优势,对企业风险进行建模。
本发明采用的技术方案如下:
一种基于机器学习模型的企业风险评估方法,所述方法包括:
S1、将企业特征数据拆分为训练集和验证集,确定3个用于企业风险评估的模型算法;
S2、模型训练:将训练集进行5折交叉验证,其中4份作为训练子集,剩下1份作为测试子集(5份数据轮流作一次测试子集);同时利用3个所述模型算法来训练模型,每个模型算法对应确定5个模型(对于一个模型算法,每一份测试子集都对应一个模型,5份测试子集共对应5个模型),记录各模型的最优参数;5份测试子集每个模型的预测概率值均形成一个新的字段;将所有新的字段以及原始部分字段放在一起,形成新的特征训练数据;使用stacking模型通过5折交叉验证再次学习,记录stacking模型的最优参数;
S3、使用S2模型训练的逻辑对S1中的验证集进行预测,得到验证集的最终预测概率值;
S4、模型评价。
进一步的,预测概率值为0-1之间的一个数值,代表企业不违约的概率。如好企业预测概率值为1,坏企业的预测概率值为0,当企业预测概率值为0.9时,表示该企业不违约概率为90%,相应的,违约概率为10%。
进一步的,所述S4中,模型评价的评价指标为正确率、召回率、精确率和ks指标中的一种或几种。
进一步的,3个所述模型算法分别为GBDT、Xgboost、Lightgbm。
进一步的,对步骤S1中的企业特征数据进行特征处理,具体步骤为:
1)去除缺失率超过80%的特征;
2)缺失数据为字符型的填充“空值”,缺失数据为数值型的用均值填充;
3)连续性变量做归一化处理;
4)字符型数据做成one-hot处理。
进一步的,步骤S1中,训练集和验证集的比例为4:1。
进一步的,步骤S3中,使用S2模型训练的逻辑对S1中的验证集进行预测的步骤为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于民生科技有限责任公司,未经民生科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910722029.3/2.html,转载请声明来源钻瓜专利网。





