[发明专利]对事件特征进行处理的方法、神经网络模型和装置有效
申请号: | 202110587002.5 | 申请日: | 2021-05-27 |
公开(公告)号: | CN113255891B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 李辉;傅幸;王维强 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 事件 特征 进行 处理 方法 神经网络 模型 装置 | ||
本说明书实施例提供一种通过高阶特征交互对事件进行处理的方法和神经网络模型。在该方法中,首先获取目标事件的编码向量;然后对该编码向量进行非线性变换,得到第一特征向量,其中所有元素均为正数。接着,对于多种高阶特征组合中任意的第一组合,利用与第一组合对应的第一组合矩阵处理该第一特征向量的自然对数,得到中间向量,并基于中间向量的自然指数确定第一组合对应的特征交互向量;其中,多种高阶特征组合中每种组合,对应于第一特征向量中多个向量元素的相乘组合。于是,至少基于上述多种高阶特征组合各自对应的特征交互向量,确定目标事件的事件表征向量;进而进行与事件相关的业务预测。
技术领域
本说明书一个或多个实施例涉及机器学习领域,尤其涉及对事件特征进行处理的方法、神经网络模型和装置。
背景技术
随着计算机技术的发展,机器学习已经应用到各种各样的技术领域,用于分析、预测各种业务数据。例如,在互联网环境中存在多种类型的事件,例如,登录事件,购买事件,点击事件,支付事件,等等。在许多场景下,需要对各种事件进行分析和处理,从而进行业务预测,例如可以根据事件评估用户操作行为的风险程度,以便进行风险防控;或者,可以根据历史事件评估用户的偏好,从而更好地为用户提供个性化的服务。
在基于事件进行业务预测的场景中,为了尽可能地提高模型预测的准确性,通常会在事件中引入丰富的不同维度的特征数据。不同维度的特征从不同角度刻画了业务场景的不同信息。绝大多数情况下,模型的拟合目标与各个基础特征之间并非简单的线性关系,因此,基于基础特征训练的模型仅能表达特征信息的线性组合,模型表达能力受限。因此,希望对特征进行有效的组合表征,来提升模型的表达能力。传统的特征组合工作是由工程人员根据业务经验手动设计的,成本高,业务扩展性差,而且受限于设计人员自身的业务理解。
由此,希望能有改进的方案,更为有效地对事件特征进行处理和表征,提升模型的表达能力,从而提高业务预测的准确性。
发明内容
本说明书一个或多个实施例描述了一种通过高阶特征交互对事件进行处理的方法和神经网络模型,可以更高效地执行特征高阶交互,提高模型表达能力,从而提升业务预测准确性。
根据第一方面,提供了一种通过高阶特征交互对事件进行处理的方法,包括:
获取目标事件的编码向量;
对所述编码向量进行非线性变换,得到第一特征向量,所述第一特征向量中所有元素均为正数;
针对多种高阶特征组合中任意的第一组合,利用与所述第一组合对应的第一组合矩阵处理所述第一特征向量的自然对数,得到中间向量,并基于所述中间向量的自然指数确定所述第一组合对应的特征交互向量;其中,所述多种高阶特征组合中每种组合,对应于所述第一特征向量中多个向量元素的相乘组合;
至少基于所述多种高阶特征组合各自对应的特征交互向量,确定所述目标事件的事件表征向量;
至少基于所述事件表征向量,进行与事件相关的业务预测。
在一个实施例中,上述非线性变换包括,利用参数集进行线性变换后,施加relu非线性函数,并添加正数小量。
根据一个实施例,所述编码向量包括稀疏子向量和稠密子向量;在这样的情况下,对所述编码向量进行非线性变换,可以包括:利用第一参数子集对所述稀疏子向量进行所述非线性变换,得到第一子向量;利用第二参数子集对所述稠密子向量进行所述非线性变换,得到第二子向量;根据第一子向量和第二子向量,得到所述第一特征向量。
基于上述实施例,进一步的,在一个例子中,编码向量还包括二元编码子向量;在这样的情况下,对所述编码向量进行非线性变换,还包括:利用第三参数子集对所述二元编码子向量进行所述非线性变换,得到第三子向量;基于所述第一子向量、第二子向量和第三子向量的拼接,得到所述第一特征向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110587002.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:热缩膜切角装置及热缩膜设备
- 下一篇:一种α-羰基酰胺化合物的制备方法