[发明专利]网络结构搜索方法、装置、设备、存储介质及程序产品在审
| 申请号: | 202110215895.0 | 申请日: | 2021-02-26 |
| 公开(公告)号: | CN112818207A | 公开(公告)日: | 2021-05-18 |
| 发明(设计)人: | 何元钦;刘洋;陈天健 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
| 主分类号: | G06F16/953 | 分类号: | G06F16/953;G06N20/00 |
| 代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 张志江 |
| 地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 网络 结构 搜索 方法 装置 设备 存储 介质 程序 产品 | ||
1.一种网络结构搜索方法,其特征在于,所述方法应用于参与横向联邦学习的协调方,所述协调方与参与横向联邦学习的各参与方通信连接,所述协调方部署有待搜索网络,所述方法包括以下步骤:
从所述待搜索网络中选取与目标参与方的计算资源大小相匹配的部分网络;
将所述部分网络发送给所述目标参与方,以供所述目标参与方对所述部分网络进行本地训练得到本地参数更新信息并返回;
对从各参与方接收到的本地参数更新信息进行全局融合得到全局参数更新信息,根据所述全局参数更新信息对所述待搜索网络中的参数进行更新,其中,所述参数包括模型参数和/或结构参数。
2.如权利要求1所述的网络结构搜索方法,其特征在于,所述从所述待搜索网络中选取与目标参与方的计算资源大小相匹配的部分网络的步骤包括:
根据目标参与方的计算资源信息计算得到所述目标参与方可容纳模型大小占所述待搜索网络的模型大小的目标比例;
根据所述目标比例从所述待搜索网络中随机选取出部分网络,其中,所述部分网络的模型大小占所述待搜索网络的模型大小的比例小于或等于所述目标比例。
3.如权利要求2所述的网络结构搜索方法,其特征在于,所述根据所述目标比例从所述待搜索网络中随机选取出部分网络的步骤包括:
对于所述待搜索网络中的各节点,根据所述目标比例确定所述节点对应的保留边数,其中,所述保留边数占所述节点在所述待搜索网络中的全部后接边边数的比例小于或等于所述目标比例;
从所述节点在所述待搜索网络中的全部后接边中随机选取保留后接边,其中,所述保留后接边的边数为所述保留边数;
将所述待搜索网络中由各所述节点对应的所述保留后接边所连接的部分作为部分网络。
4.如权利要求2所述的网络结构搜索方法,其特征在于,所述根据所述目标比例从所述待搜索网络中随机选取出部分网络的步骤包括:
对于所述待搜索网络中的各个网络模块,从所述网络模块中节点连接边上的各并列操作中随机选取保留操作,得到由所述保留操作所连接的保留模块,其中,所述保留模块的操作计算量占所述网络模块的操作计算量的比例小于或等于所述目标比例;
将各所述保留模块组成的网络作为部分网络。
5.如权利要求1至4任一项所述的网络结构搜索方法,其特征在于,所述对从各参与方接收到的所述本地参数更新信息进行全局融合得到全局参数更新信息的步骤包括:
从各参与方发送的所述本地参数更新信息中获取所述待搜索网络中参数对应的信息组,其中,所述信息组包括各参与方中部分参与方发送的本地参数更新值,所述部分参与方为被分发的部分网络中包括所述参数的参与方;
对所述信息组中的本地参数更新值进行平均得到所述参数对应的全局参数更新值;
将所述待搜索网络中各参数对应的所述全局参数更新值作为全局参数更新信息。
6.一种图像分类方法,其特征在于,所述方法应用于参与横向联邦学习的协调方,所述协调方与参与横向联邦学习的各参与方通信连接,所述协调方部署有待搜索网络,所述方法包括:
联合各所述参与方对所述待搜索网络进行多轮网络结构搜索得到目标图像分类模型,其中,在各轮网络结构搜索中所述协调方从所述待搜索网络中选取与所述参与方的计算资源大小相匹配的部分网络分发给所述参与方,以供所述参与方对所述部分网络进行本地训练;
采用所述目标图像分类模型对待分类图像数据进行分类处理,得到所述待分类图像数据的分类结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110215895.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种显示面板及显示装置
- 下一篇:一种城市建筑和树冠识别方法





