[实用新型]用于执行卷积神经网络运算的处理装置

说明书

本实用新型提出一种用于执行卷积神经网络运算的处理装置。卷积神经网络运算包括多个卷积层。处理装置包括内部存储器与计算电路。计算电路执行各卷积层的卷积运算。内部存储器从外部存储器获取第一卷积层的权重数据，而计算电路利用第一卷积层的权重数据执行第一卷积层的卷积运算。于计算电路执行第一卷积层的卷积运算的期间，内部存储器从外部存储器获取第二卷积层的权重数据，以将第二卷积层的权重数据覆写第一卷积层的权重数据。

技术领域

本揭露涉及一种计算装置，且特别是有关于一种用于执行卷积神经网络运算的处理装置与其操作方法。

背景技术

人工智能近年得到迅速发展，极大地影响了人们的生活。基于人工神经网络，尤其是卷积神经网络(Convolutional Neural Network，CNN)在很多应用中的发展日趋成熟，例如在计算机视觉领域中得到广泛使用。随着卷积神经网络的应用越来越广泛，越来越多的芯片设计厂商开始设计用于执行卷积神经网络运算的处理芯片。执行卷积神经网络运算的处理芯片需要复杂的运算与庞大的参数量来分析输入数据。对于用于执行卷积神经网络运算的处理芯片而言，为了加速处理速度与降低重复存取外部存储器所产生的功耗，处理芯片内部一般设置有内部存储器(又称为芯片内建内存(on-chip-memory)) 来存储暂时计算结果与卷积运算所需的权重数据。然而，相对地，当需要高存储容量的内部存储器来存储所有权重数据时，也会造成处理芯片的芯片成本与芯片功耗上升。

实用新型内容

有鉴于此，本揭露提供一种用于执行卷积神经网络运算的处理装置与其操作方法，其可降低处理装置中内部存储器的容量需求，从而达成降低处理装置的功耗与成本的目的。

本实用新型实施例提出一种用于执行卷积神经网络运算的处理装置，此卷积神经网络运算包括多个卷积层。处理装置包括内部存储器与计算电路。计算电路耦接内部存储器，执行各卷积层的卷积运算。内部存储器从外部存储器获取这些卷积层中第一卷积层的权重数据，而计算电路利用第一卷积层的权重数据执行第一卷积层的卷积运算。于计算电路执行第一卷积层的卷积运算的期间，内部存储器从外部存储器获取卷积层中第二卷积层的权重数据，以将第二卷积层的权重数据覆写第一卷积层的权重数据。

本实用新型实施例提出一种用于执行卷积神经网络运算的处理装置的操作方法，此卷积神经网络运算包括多个卷积层。所述方法包括下列步骤。由内部存储器从外部存储器获取卷积层中第一卷积层的权重数据，并由计算电路利用第一卷积层的权重数据执行第一卷积层的卷积运算。接着，于执行第一卷积层的卷积运算的期间，由内部存储器从外部存储器获取卷积层中第二卷积层的权重数据，以将第二卷积层的权重数据覆写第一卷积层的权重数据。

基于上述，于本实用新型的实施例中，内部存储器先从外部存储器获取第一卷积层的权重数据，且计算电路自内部存储器取用第一卷积层的权重数据来执行第一卷积层的卷积运算。接着，内部存储器再从外部存储器获取卷积层中第二卷积层的权重数据，以将第二卷积层的权重数据覆写第一卷积层的权重数据。因此，于处理装置执行卷积神经网络运算的过程中，卷积神经网络运算所需的权重数据可分批依序写入处理装置的内部存储器。于是，设置于处理装置内的内部存储器的存储容量需求可以降低，从而节省处理装置的硬件成本与电路面积。

为让本揭露的上述特征和优点能更明显易懂，下文特举实施例，并配合所附图式作详细说明如下。

附图说明

图1是依照本实用新型一实施例的执行卷积神经网络运算的计算系统的示意图；

图2是依照本实用新型一实施例的卷积神经网络模型的示意图；

图3是依照本实用新型一实施例的卷积运算的示意图；

图4是依照本实用新型一实施例的处理装置的示意图；

图5是依照本实用新型一实施例的处理装置的操作方法的流程示意图；

图6A是依据本实用新型一实施例的更新内部存储器中权重数据的示意图；