[发明专利]模型参数的处理方法、装置、设备和计算机存储介质有效
申请号: | 201711123787.0 | 申请日: | 2017-11-14 |
公开(公告)号: | CN109800884B | 公开(公告)日: | 2023-05-26 |
发明(设计)人: | 杨旭 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 广州铸智知识产权代理有限公司 44886 | 代理人: | 徐瑞红 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 参数 处理 方法 装置 设备 计算机 存储 介质 | ||
本发明提供了一种模型参数的处理方法、装置、设备和计算机存储介质,其中方法包括:获取用户建立的学习模型以及训练数据;确定所述学习模型的目标函数,迭代计算出基准参数候选集合;以所述候选集合中的基准参数取值以及所述训练数据,对所述学习模型进行训练,确定模型对应的训练结果;将训练结果满足预设条件的模型对应的基准参数作为所述学习模型的参数。本发明能够实现诸如逻辑回归模型等学习模型的参数自动调整。
【技术领域】
本发明涉及计算机应用技术领域,特别涉及一种模型参数的处理方法、装置、设备和计算机存储介质。
【背景技术】
在机器学习平台等应用场景下,用户在进行模型建立中,一般需要用户来进行模型参数的设定。例如,逻辑回归模型是一种常用的二分类模型,常常被用于诸如判别一笔交易是否存在欺诈行为,电子邮件是否为垃圾邮件,用户性别是男是女等。在逻辑回归模型的训练过程中,参数调整的好坏会严重影响到模型的预测效果;目前的参数调整主要由人工完成,例如在模型训练的界面提供各种参数的输入框以便人工填写,因此对于调参人员需要有很好的要求,例如对模型原理熟悉,知道各参数的意义,具有一定的经验,等等,这样才能够给出靠谱的参数初始值。
【发明内容】
有鉴于此,本发明提供了一种模型参数的处理方法、装置、设备和计算机存储介质,从而实现参数的自动调整。
具体技术方案如下:
本发明提供了一种机器学习平台中模型参数的处理方法,该方法包括:
获取用户建立的学习模型以及训练数据;
确定所述学习模型的目标函数,迭代计算出基准参数候选集合;
以所述候选集合中的基准参数取值以及所述训练数据,对所述学习模型进行训练,确定模型对应的训练结果;
将训练结果满足预设条件的模型对应的基准参数作为所述学习模型的参数。
根据本发明一具体实施方式,该方法还包括:
将所述学习模型的参数展示给用户,以便用户进行编辑处理。
根据本发明一具体实施方式,所述学习模型包括逻辑回归模型;
所述基准参数候选集合包括基准超参数。
根据本发明一具体实施方式,所述确定所述学习模型的目标函数,迭代计算出基准参数候选集合包括:
以所述学习模型的损失函数作为目标函数,迭代计算所述学习模型的参数的第一取值;
利用所述学习模型的参数的第一取值确定基准参数;
利用所述基准参数构造基准参数候选集合。
本发明提供了一种逻辑回归模型的参数调整方法,该方法包括:
以逻辑回归模型的损失函数作为目标函数,确定模型参数的第一取值;
将利用所述模型参数的第一取值确定出的超参数作为基准超参数;
利用基准超参数构造超参数候选集合;
分别针对所述超参数候选集合中的各超参数取值执行以下处理:以该超参数取值构造结构风险函数;以该结构风险函数作为目标函数,确定模型参数的第二取值;以模型参数的第二取值预测验证样本集;
从得到的各模型参数的第二取值中,选择对验证样本集的预测结果最优的模型参数的第二取值作为模型参数,确定对应的超参数取值。
根据本发明一优选实施方式,所述以逻辑回归模型的损失函数作为目标函数,确定模型参数的第一取值包括:
初始化模型参数的取值和迭代次数;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711123787.0/2.html,转载请声明来源钻瓜专利网。