[发明专利]用于优化后的深度网络处理的图形匹配

说明书

公开了用于经由机器学习获得增强的分辨率视频和安全性的系统、设备和方法。一种系统被配置为接收神经网络的源代码表示。在一个实施方案中，所述源代码表示是有向无环图(DAG)。所述系统确定所述源代码表示是否包括一个或多个图案中的任一者，其中每个图案包括两个或更多个相邻层。所述系统还针对每个图案识别用来替换检测到的图案的组合层。如果在所述源代码表示中检测到所述一个或多个图案的任何出现，则所述系统用对应的组合层替换每个图案。另外，所述系统生成所述神经网络的优化后的表示，其中所述优化后的表示包括对任何检测到的图案的替换。所述优化后的表示可以用来生成所述神经网络的可执行版本。

背景技术

相关技术的描述

神经网络用于增加应用的数目和类型。例如，神经网络已经用于图案辨识和分类领域。神经网络可以包括各自具有相应字段并且共同平铺显示输入空间的神经元的集合。在多层神经网络中，第一层神经元(或计算单元)的输出变成第二层神经元的输入，第二层神经元的输出变成第三层神经元的输入，等等。可以训练神经网络来辨识特征层次。因此，神经网络已经越来越多地用于对象辨识和其他应用。

在神经网络中，计算可以分布在大量处理节点中，所述处理节点可以一条或多条计算链配置。这些多层架构可以一次训练一层并且可以使用反向传播进行微调。神经网络可以在包括并行处理架构的各种类型的计算装置上实现。并行处理架构允许更高效地实现神经网络。然而，尽管处理硬件最近得到改进，但神经网络实现方式仍具有长处理时间、高功率消耗和其他低效性。

附图说明

通过结合附图参考以下描述可以更好地理解本文中描述的方法和机构的优点，附图中：

图1是用于实现神经网络的计算系统的一个实施方案的框图。

图2是优化有向无环图(DAG)的一部分的一个实施方案的框图。

图3是用于优化神经网络有向无环图(DAG)的系统的一个实施方案的框图。

图4是组合操作的一个实施方案的图。

图5是示出用于组合神经网络的层的方法的一个实施方案的一般化流程图。

图6是示出用于优化神经网络的方法的另一实施方案的一般化流程图。

图7是示出用于确定是否替换神经网络的表示中的检测到的图案的方法的一个实施方案的一般化流程图。

具体实施方式

在以下描述中，阐述众多具体细节以提供对本文中呈现的方法和机构的透彻理解。然而，本领域技术人员应认识到，可以在没有这些具体细节的情况下实践各种实施方案。在一些情况下，未详细示出众所周知的结构、部件、信号、计算机程序指令和技术以避免使本文中描述的方法模糊不清。应了解，为了简单和清楚地进行说明，图中所示的元件不一定按比例绘制。例如，元件中的一些的尺寸相对于其他元件可能被夸大。

本文中公开了用于优化神经网络的源代码表示的系统、设备和方法。在一个实施方案中，一种系统至少包括联接到存储器的处理器。在一个实施方案中，所述系统被配置为接收神经网络的源代码表示。在一个实施方案中，所述源代码表示是有向无环图(DAG)。如果所述系统确定所述源代码表示中的两个或更多个相邻层与第一图案匹配，则所述系统用单个组合层替换所述源代码表示中的所述两个或更多个相邻层。另外，所述系统生成所述神经网络的优化后的表示，其中所述优化后的表示包括所述单个组合层。所述优化后的表示可以用来生成所述神经网络的可执行版本。当在目标机器上实现所述神经网络的所述可执行版本时，所述单个组合层可以利用单个内核调用来调用。

在一个实施方案中，所述系统接收对将在所述源代码表示中搜索的一个或多个图案的表示。每个图案包括两个或更多个相邻层的标识。而且，对个每个图案，所述系统接收用来替换检测到的图案的对应的组合层。接下来，所述系统确定所述源代码表示是否包括所述一个或多个图案的任何出现。然后，所述系统用对应的组合层替换所述一个或多个图案的任何出现。