[发明专利]神经网络架构搜索方法、装置、终端设备以及存储介质在审
申请号: | 202011203194.7 | 申请日: | 2020-11-02 |
公开(公告)号: | CN112308227A | 公开(公告)日: | 2021-02-02 |
发明(设计)人: | 朱威 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 架构 搜索 方法 装置 终端设备 以及 存储 介质 | ||
本申请实施例公开了一种神经网络架构搜索方法、装置、终端设备以及存储介质,其适用于数字医疗。该方法包括:确定用于构建目标神经网络的搜索空间和训练数据集;基于多个样本数据对初始神经网络中的权重矩阵和架构参数进行调整以得到调整后的权重矩阵和架构参数;根据调整后的权重矩阵和基础运算参数确定目标神经网络,以及根据调整后的特征权重参数确定用于目标神经网络的目标输入属性特征数据。采用本申请实施例,可提高神经网络模型的性能,以及提高对神经网络进行特征选择的效率。
技术领域
本申请涉及人工智能技术领域,尤其涉及一种神经网络架构搜索方法、装置、终端设备以及存储介质。
背景技术
一个性能良好的神经网络往往拥有精妙的网络结构,需要具有高超技能和丰富经验的人类专家花费大量精力进行设计。例如,图神经网络在分析非欧几里得几何数据,比如社交网络、生物医药数据和知识图谱等时非常受欢迎,以其作为工具得到了很多研究进展。但是,目前,图神经网络并不能够具有很好的普适性,不同的图结构数据需要不同的图网络架构。但是,设计图神经网络需要大量的人工工作和领域知识。另外,由于输入过多的属性特征会使得图神经网络过拟合,且耗费计算资源,使用太少的属性特征又会使得图神经网络学不好。因此,如何在确定图网络架构的同时,确定用于图神经网络的属性特征,成为当前亟待解决的问题。
发明内容
本申请实施例提供一种神经网络架构搜索方法、装置、终端设备以及存储介质,可提高神经网络模型的性能,以及提高对神经网络进行特征选择的效率。
第一方面,本申请实施例提供了一种神经网络架构搜索方法,该方法包括:
确定用于构建目标神经网络的搜索空间和训练数据集,上述搜索空间中包括多种基础运算,上述训练数据集中包括多个样本数据,上述多个样本数据中包括n类输入属性特征数据,一个样本数据包括m类输入属性特征数据,其中n大于m;
基于上述多个样本数据对初始神经网络中的权重矩阵和架构参数进行调整以得到调整后的权重矩阵和架构参数,上述初始神经网络包括多个节点,上述多个节点中每相邻两个节点之间通过至少两种基础运算连接,上述架构参数包括特征权重参数和基础运算参数,上述特征权重参数包括n个特征权重值,一类输入属性特征数据对应一个特征权重值,上述基础运算参数包括各相邻两个节点之间各基础运算对应的置信度,其中,连接任一相邻两个节点的任一基础运算对应的置信度为上述任一基础运算作为上述任一相邻两个节点之间目标基础运算的概率值;
根据调整后的权重矩阵和基础运算参数确定目标神经网络,并根据调整后的特征权重参数确定用于上述目标神经网络的目标输入属性特征数据。
结合第一方面,在一种可能的实施方式中,上述根据调整后的权重矩阵和基础运算参数确定目标神经网络,包括:
从调整后的基础运算参数中确定出任一相邻两个节点之间各基础运算对应的置信度;
将上述任一相邻两个节点之间各基础运算对应的置信度中的最大置信度所对应的基础运算,确定为上述任一相邻两个节点之间的目标基础运算;
根据调整后的权重矩阵以及每相邻两个节点之间的目标基础运算生成目标神经网络。
结合第一方面,在一种可能的实施方式中,上述根据调整后的特征权重参数确定用于上述目标神经网络的目标输入属性特征数据,包括:
确定用于上述目标神经网络的输入属性特征数据的数量x,x小于n;
对调整后的特征权重参数中包括的n个特征权重值进行降序排列;
将经过降序排列后的前x个特征权重值所指示的x类输入属性特征数据确定为用于上述目标神经网络的目标输入属性特征数据。
结合第一方面,在一种可能的实施方式中,上述根据调整后的特征权重参数确定用于上述目标神经网络的目标输入属性特征数据,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011203194.7/2.html,转载请声明来源钻瓜专利网。