[发明专利]用于将来自更复杂模型的知识融入更简单模型中的系统、方法和计算机程序产品在审
| 申请号: | 202010009567.0 | 申请日: | 2020-01-06 |
| 公开(公告)号: | CN111428872A | 公开(公告)日: | 2020-07-17 |
| 发明(设计)人: | 王亮;董晓博;罗伯特·克里斯坦森;苟良;张维;仰颢 | 申请(专利权)人: | 维萨国际服务协会 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
| 代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 张娜;顾丽波 |
| 地址: | 美国加利*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 来自 复杂 模型 知识 融入 简单 中的 系统 方法 计算机 程序 产品 | ||
1.一种计算机实施的方法,包括:
通过至少一个处理器获得与第一组特征相关联的第一训练数据以及与不同于所述第一组特征的第二组特征相关联的第二训练数据;
通过至少一个处理器基于所述第一训练数据和所述第二训练数据来训练第一模型;以及
通过至少一个处理器基于所述第二训练数据而使用损失函数来训练第二模型,所述损失函数取决于所述第一模型的中间层的输出和所述第二模型的输出。
2.根据权利要求1所述的计算机实施的方法,其中所述第二模型包括至少一个第一层和至少一个第二层,其中所述第二模型的所述输出包括所述至少一个第一层的输出,并且其中训练所述第二模型还包括:
使用取决于所述第一模型的所述中间层的所述输出和所述第二模型的包括所述第一层的所述输出的所述输出的所述损失函数来修改所述第二模型的所述至少一个第一层的一个或多个参数;以及
基于所述至少一个第一层的所述输出来训练所述至少一个第二层。
3.根据权利要求2所述的计算机实施的方法,其中所述第一模型包括以下至少一项:深度神经网络、循环神经网络、多个神经网络的集成,或其任何组合,其中所述第二模型的所述第一层包括回归神经网络,并且其中所述第二模型的所述第二层包括逻辑回归模型。
4.根据权利要求1所述的计算机实施的方法,还包括:
通过至少一个处理器确定所述第一模型的多个中间层的多个信息值;以及
通过至少一个处理器基于所述多个信息值而从所述多个中间层中选择所述中间层。
5.根据权利要求1所述的计算机实施的方法,其中所述第一组特征包括复杂特征,并且其中所述第二组特征包括可解释特征。
6.根据权利要求1所述的计算机实施的方法,其中所述第一模型包括比所述第二模型多的参数数目。
7.根据权利要求1所述的计算机实施的方法,还包括:
通过至少一个处理器提供经过训练的第二模型;
通过至少一个处理器获得与至少一个交易相关联的输入数据;以及
通过至少一个处理器并且使用经过训练的第二模型来处理所述输入数据以生成输出数据,其中所述输出数据包括所述至少一个交易是否是欺诈交易的预测。
8.一种计算系统,包括:
至少一个处理器,其被编程和/或配置成:
获得与第一组特征相关联的第一训练数据以及与不同于所述第一组特征的第二组特征相关联的第二训练数据;
基于所述第一训练数据和所述第二训练数据来训练第一模型;以及
基于所述第二训练数据而使用损失函数来训练第二模型,所述损失函数取决于所述第一模型的中间层的输出和所述第二模型的输出。
9.根据权利要求8所述的计算系统,其中所述第二模型包括至少一个第一层和至少一个第二层,其中所述第二模型的所述输出包括所述至少一个第一层的输出,并且其中所述至少一个处理器进一步被编程和/或配置成通过以下方式来训练所述第二模型:
使用取决于所述第一模型的所述中间层的所述输出和所述第二模型的包括所述第一层的所述输出的所述输出的所述损失函数来修改所述第二模型的所述至少一个第一层的一个或多个参数;以及
基于所述至少一个第一层的所述输出来训练所述至少一个第二层。
10.根据权利要求9所述的计算系统,其中所述第一模型包括以下至少一项:深度神经网络、循环神经网络、多个神经网络的集成,或其任何组合,其中所述第二模型的所述第一层包括回归神经网络,并且其中所述第二模型的所述第二层包括逻辑回归模型。
11.根据权利要求8所述的计算系统,其中所述至少一个处理器进一步被编程和/或配置成:
确定所述第一模型的多个中间层的多个信息值;以及
基于所述多个信息值而从所述多个中间层中选择所述中间层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于维萨国际服务协会,未经维萨国际服务协会许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010009567.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:操控功率输出端的现场总线
- 下一篇:风扇及其控制方法和装置





