[发明专利]基于多信息路径聚合的特征金字塔神经网络架构搜索方法在审
申请号: | 202110018395.8 | 申请日: | 2021-01-07 |
公开(公告)号: | CN112699953A | 公开(公告)日: | 2021-04-23 |
发明(设计)人: | 王勇涛;梁婷婷;汤帜 | 申请(专利权)人: | 北京大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/34;G06N3/04;G06N3/08 |
代理公司: | 北京万象新悦知识产权代理有限公司 11360 | 代理人: | 黄凤茹 |
地址: | 100871*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 信息 路径 聚合 特征 金字塔 神经网络 架构 搜索 方法 | ||
本发明公布了一种基于多信息路径聚合的特征金字塔神经网络架构搜索方法,构建多种基本信息路径,建立全连接的有向无环图超网,搜索得到由多种基本信息路径聚合而成的多路径聚合特征金字塔网络;将多路径聚合特征金字塔网络嵌入各种骨干网络之后,增强由骨干网络提取到的特征表达;实际应用包括但不限于物体检测,实例分割,语义分割,关键点检测;本发明能够实现高效、有效的搜索,将搜索到特征金字塔网络嵌入检测器的骨干网络与检测器头之间,检测器其他部分的网络结构不需要改变,方法简单方便,且物体检测精度高,同时还降低检测器的参数量和计算复杂度。
技术领域
本发明属于计算机视觉技术领域,涉及利用计算机视觉及深度学习技术进行多尺度特征抽取,尤其涉及一种基于多信息路径聚合的特征金字塔神经网络架构搜索方法,可用于通用物体检测。
背景技术
近年来,机器学习研究和应用得到了蓬勃发展。其中,深度学习方法已在许多应用领域(例如计算机视觉,语音处理和机器翻译)中取得了关键性的进步,这当中一个重要原因是新型神经网络架构的出现。深度学习在感知任务中的成功很大程度上归功于其对特征工程流的自动化:从数据中以端到端的方式提取层次化特征。然而,不同任务对特征表达的需求不同,在实际应用中,研究者手动设计了越来越多复杂的神经网络架构,这是一个耗时且容易出错的过程。研究者需要针对不同的任务手动设计合适的神经网络架构、训练配置、正则化方法和超参数,来使得手动设计的网络能够在目标任务中达到理想表现。同时,网络的性能表现对设计细节非常敏感,因此,对于每个不同任务,都必须重复这样的手动设计过程。即使是有丰富经验的研究员,也需要反复试验,直到为特定任务确定一套适配参数。
自动化机器学习(Automated Machine Learning,AutoML)旨在以数据驱动,用自动化的方式来确定这套适配参数(神经网络架构、训练配置、正则化方法和超参数等)。工程师只需提供数据,AutoML系统会自动搜索对该特定任务最优的网络模型。因此,AutoML能帮助有兴趣应用机器学习算法、但没有资源详细了解其背后技术的其他领域研究者使用最新的机器学习方法。最近,学术界提出神经网络架构搜索(Neural Architecture Search,NAS),表示自动化架构设计的过程,是自动化机器学习的进一步发展。目前,在某些计算机视觉任务上,例如图像分类,物体检测和语义分割,NAS方法搜得的网络架构已经优于手动设计的网络架构。
在实际应用中,现有神经网络架构搜索方法,通常以单一操作(如卷积,池化等)作为搜索单元,用强化学习、单步搜索、梯度计算等方法找到若干个搜索单元的最优组合架构,这些方法也能实现对特征金字塔网络进行架构搜索。但是,这些方法通常在搜索上占用大量硬件资源,且耗时冗长。同时,这些方法搜索到的架构通常需要特殊的训练技巧(比如更大的资源消耗),才能在实际应用中表现出更好的效果。
因此,现有的神经网络架构搜索方法对于特征金字塔神经网络架构搜索任务,技术上还存在一定瓶颈,搜索效率不高,硬件资源消耗大。
发明内容
为了克服上述现有技术的不足,本发明提供一种基于多信息路径聚合的特征金字塔神经网络架构搜索方法,提出多种基本信息路径,并以其作为搜索单元,建立一个全连接的有向无环图超网,来搜索不同基本信息路径之间的最优聚合方式,得到的多路径聚合特征金字塔网络,能够增强通用物体特征的多尺度特征表达能力,从而提高计算机视觉任务(如物体检测、实例分割、语义分割、关键点检测等)的性能。
本发明的技术方案是:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110018395.8/2.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置