[发明专利]卷积计算引擎、人工智能芯片以及数据处理方法

说明书

本申请基于云技术公开了一种神经网络模型的卷积计算引擎、人工智能芯片以及数据处理方法；其中，神经网络模型至少包括第一网络层和第二网络层；卷积计算引擎包括：权重存储单元和数据计算单元，权重存储单元的输出端和数据计算单元的输入端相连接；权重存储单元，用于在第一网络层的卷积运算过程中，从位于卷积计算引擎外的外部存储单元中预装载第二网络层的权重数据；数据计算单元，用于响应针对第二网络层的运算指令，获取第二网络层的目标输入数据，以及从权重存储单元中读取第二网络层的权重数据；并采用第二网络层的权重数据对目标输入数据进行卷积运算。本发明实施例可实现卷积运算和权重数据加载的并行处理，提升卷积计算引擎的计算性能。

技术领域

本发明涉及互联网技术领域，具体涉及人工智能技术领域，尤其涉及一种神经网络模型的卷积计算引擎、一种人工智能芯片以及一种数据处理方法。

背景技术

随着科学技术的发展，云技术被运用在越来越多的行业应用中，如人工智能的相关应用、智能硬件的相关应用等。其中，基于人工智能技术的神经网络模型，已被广泛应用于人脸识别、图像分类、对象标注等诸多新兴领域。在神经网络模型的应用过程中，通常会涉及卷积计算引擎的使用；此处的卷积计算引擎是指：用于完成神经网络模型中的卷积运算的引擎。研究表明，卷积计算引擎通常承担了神经网络模型计算中的80%以上的计算量；可见，对于神经网络模型而言，卷积计算引擎是一个较为关键的部件。目前，如何提升卷积计算引擎的计算性能，成为了研究热点。

发明内容

本发明实施例提供了一种卷积计算引擎、人工智能芯片以及数据处理方法，可实现卷积运算和权重数据加载的并行处理，提升卷积计算引擎的计算性能。

一方面，本发明实施例提供了一种神经网络模型的卷积计算引擎，所述神经网络模型至少包括第一网络层和第二网络层；所述卷积计算引擎包括：权重存储单元和数据计算单元；所述权重存储单元的输出端和所述数据计算单元的输入端相连接；

所述权重存储单元，用于在所述第一网络层的卷积运算过程中，从位于所述卷积计算引擎外的外部存储单元中预装载所述第二网络层的权重数据；

所述数据计算单元，用于响应针对所述第二网络层的运算指令，读取所述第二网络层的目标输入数据，以及从所述权重存储单元中读取所述第二网络层的权重数据；并采用所述第二网络层的权重数据对所述目标输入数据进行卷积运算。

另一方面，本发明实施例提供了一种人工智能芯片；所述人工智能芯片至少包括上述的神经网络模型的卷积计算引擎。

再一方面，本发明实施例提供了一种数据处理方法，所述数据处理方法由如上述的神经网络模型的卷积计算引擎来执行；所述神经网络模型至少包括第一网络层和第二网络层，所述卷积计算引擎包括：权重存储单元和数据计算单元；所述权重存储单元的输出端和所述数据计算单元的输入端相连接；所述数据处理方法包括：

在所述第一网络层的卷积运算过程中，预加载所述第二网络层的权重数据；

响应针对所述第二网络层的运算指令，读取所述第二网络层的目标输入数据；

采用所述第二网络层的权重数据对所述目标输入数据进行卷积运算。