[发明专利]神经网络设备及其操作方法、以及应用处理器

说明书

一种神经网络设备包括计算电路，该计算电路包括第一乘法器、第二乘法器、对齐移位器和加法器。加法器共享第一乘法器和第二乘法器。计算电路对多个浮点数据对执行第一点积运算，或者对多个整数数据对执行第二点积运算。在第一点积运算中，计算电路使用第一乘法器分别从多个浮点数据对获取多个分数乘法结果，使用加法器将多个分数乘法结果相加并输出第一累积数据。在第二点积运算中，计算电路使用第二乘法器分别从多个整数数据对获取多个整数乘法结果，使用加法器将多个整数乘法结果相加并输出第二累积数据。

相关申请的交叉引用

本申请要求分别于2020年4月7日和2021年2月1日在韩国知识产权局递交的韩国专利申请No.10-2020-0042409和No.10-2021-0014396的优先权，上述两个专利申请的内容通过引用整体并入本文。

技术领域

本发明构思的实施例涉及一种神经网络，更具体地，涉及一种神经网络设备的计算方法和设备，该神经网络设备包括执行浮点计算和整数计算的计算电路。

背景技术

神经网络是对动物大脑的生物网络进行建模的计算架构。随着近来神经网络技术的发展，在各种电子系统中已经存在使用基于神经网络而操作的神经网络设备来分析输入数据并提取有效信息的许多研究。

神经网络设备针对复杂的输入数据执行许多计算。为了使神经网络设备能够实时地分析输入并提取信息，需要一种用于有效地处理神经网络的操作的技术。具体地，诸如智能电话之类的低功率高性能系统具有有限的资源。因此，期望一种用于减少处理复杂的输入数据所需的计算的次数并提高人工神经网络的性能的技术。

发明内容

本发明构思的实施例提供了一种用于神经网络设备中的神经网络的计算方法和设备，该神经网络设备包括执行浮点计算和整数计算的计算电路。

根据本发明构思的实施例，提供了一种神经网络设备，其包括计算电路，该计算电路包括第一乘法器、第二乘法器、对齐移位器和加法器。加法器共享第一乘法器和第二乘法器。计算电路对多个浮点数据对执行第一点积运算，或者对多个整数数据对执行第二点积运算。在第一点积运算中，计算电路使用第一乘法器分别根据多个浮点数据对获取多个分数乘法结果，使用对齐移位器基于从分别与多个浮点数据对相对应的多个指数加法结果中识别出的最大值来对多个分数乘法结果执行对齐移位，使用加法器将对齐的多个分数乘法结果相加，并且输出第一累积数据。在第二点积运算中，计算电路使用第二乘法器分别根据多个整数数据对获取多个整数乘法结果，使用加法器将多个整数乘法结果相加，并且输出第二累积数据。

根据本发明构思的另一实施例，提供了一种操作神经网络设备的方法，所述方法包括：接收多个数据对；当多个数据对具有浮点格式时，执行浮点运算；当多个数据对具有整数格式时，执行整数运算；以及将通过浮点运算或整数运算生成的最终数据存储在存储器中。执行浮点运算包括：使用浮点乘法器获取分别与多个数据对相对应的多个分数乘法结果，并且使用加法器将多个分数乘法结果相加以生成第一累积数据。执行整数运算包括：使用整数乘法器获取分别与多个数据对相对应的多个整数乘法结果，并且使用加法器将多个整数乘法结果相加以生成第二累积数据。

根据本发明构思的另一实施例，提供了一种包括神经网络设备的应用处理器，该神经网络设备包括浮点乘法器、整数乘法器、加法器和存储器。神经网络设备对多个浮点数据对执行第一点积运算，或对多个整数数据对执行第二点积运算。在第一点积运算中，神经网络设备使用浮点乘法器分别根据多个浮点数据对获取多个分数乘法结果，使用加法器将多个分数乘法结果相加以生成第一累积数据，并且将第一累积数据存储在存储器中。在第二点积运算中，神经网络设备使用浮点乘法器和整数乘法器分别根据多个整数数据对获取多个整数乘法结果，使用加法器将多个整数乘法结果相加以生成第二累积数据，并且将第二累积数据存储在存储器中。

附图说明

图1是根据实施例的神经网络系统的示意框图。

图2示出了神经网络架构的示例。