[发明专利]用于神经网络的数据处理方法、装置和系统及存储介质

权利要求书

1.一种用于神经网络的数据处理方法，包括：

对神经网络的第一网络层的层输出结果分别执行至少两个离散定点化操作，以获得至少两个离散定点化结果，其中，所述至少两个离散定点化操作彼此之间采用不同的定点化参数；以及

基于所述至少两个离散定点化结果确定所述神经网络的第二网络层的输入数据。

2.如权利要求1所述的方法，其中，所述基于所述至少两个离散定点化结果确定所述神经网络的第二网络层的输入数据包括：

将所述至少两个离散定点化结果合并在一起，以获得合并结果作为所述第二网络层的输入数据。

3.如权利要求2所述的方法，其中，所述将所述至少两个离散定点化结果合并在一起，以获得合并结果作为所述第二网络层的输入数据包括：

通过信道拼接、加法操作和位操作之一的方式将所述至少两个离散定点化结果合并在一起，以获得所述合并结果。

4.如权利要求3所述的方法，其中，所述至少两个离散定点化结果为长度相同且宽度相同的至少两个张量，所述通过信道拼接的方式将所述至少两个离散定点化结果合并在一起，以获得所述合并结果包括：

将所述至少两个离散定点化结果沿着信道维度进行拼接，以获得所述合并结果。

5.如权利要求1所述的方法，其中，所述第二网络层包括至少两组分立网络层，所述基于所述至少两个离散定点化结果确定所述神经网络的第二网络层的输入数据包括：

所述至少两组分立网络层分别接收所述至少两个离散定点化结果中的一个离散定点化结果作为对应分立网络层的输入数据。

6.如权利要求5所述的方法，其中，所述方法还包括：

将所述至少两个离散定点化结果分别输入所述至少两组分立网络层中的对应一组分立网络层，以获得所述至少两组分立网络层分别输出的至少两个输出结果；

将所述至少两个输出结果合并在一起，以获得合并结果作为所述神经网络的第三网络层的输入数据。

7.如权利要求6所述的方法，其中，所述将所述至少两个输出结果合并在一起，以获得合并结果作为所述神经网络的第三网络层的输入数据包括：

通过信道拼接、加法操作和位操作之一的方式将所述至少两个输出结果合并在一起，以获得所述合并结果。

8.如权利要求7所述的方法，其中，所述至少两个输出结果为长度相同且宽度相同的至少两个张量，所述通过信道拼接的方式将所述至少两个输出结果合并在一起，以获得所述合并结果包括：

将所述至少两个输出结果沿着信道维度进行拼接，以获得所述合并结果。

9.如权利要求1所述的方法，其中，所述对神经网络的第一网络层的层输出结果分别执行至少两个离散定点化操作，以获得至少两个离散定点化结果包括：

对于所述至少两个离散定点化操作中的每一个，将所述层输出结果中的每个元素映射到该离散定点化操作采用的定点数集合中，确定与所述层输出结果中的每个元素对应的定点数，以获得对应的离散定点化结果。

10.如权利要求9所述的方法，其中，所述至少两个离散定点化操作彼此之间采用不同的定点数映射关系，所述定点化参数包括所述定点数映射关系。

11.如权利要求9或10所述的方法，其中，所述至少两个离散定点化操作彼此之间采用不同的定点数集合，所述定点化参数还包括所述定点数集合。

12.一种用于神经网络的数据处理装置，包括：

离散定点化模块，用于对神经网络的第一网络层的层输出结果分别执行至少两个离散定点化操作，以获得至少两个离散定点化结果，其中，所述至少两个离散定点化操作彼此之间采用不同的定点化参数；以及

确定模块，用于基于所述至少两个离散定点化结果确定所述神经网络的第二网络层的输入数据。