[发明专利]一种数据处理方法、神经网络的训练方法以及相关设备

权利要求书

1.一种数据处理方法，其特征在于，所述方法应用于第一执行设备，所述方法包括：

将第一序列数据输入第一神经网络，以通过所述第一神经网络对所述第一序列数据携带的信息进行删减处理，得到第二序列数据，所述第二序列数据携带的信息量小于所述第一序列数据携带的信息量；

将所述第二序列数据发送给第二执行设备，所述第二序列数据用于指示第二执行设备将所述第二序列数据输入至第二神经网络中，以通过所述第二神经网络生成所述第二序列数据的预测结果；

接收所述第二执行设备发送的所述第二序列数据的预测结果，所述第二序列数据的预测结果被视为所述第一序列数据的预测结果；

其中，所述第一神经网络为通过第一损失函数和第二损失函数训练得到的，所述第一损失函数指示所述第二序列数据携带的信息量，所述第二损失函数指示所述第一序列数据的预测结果与所述第一序列数据的正确结果之间的相似度。

2.根据权利要求1所述的方法，其特征在于，所述第一损失函数指示所述第二序列数据与第三序列数据之间的距离；

其中，所述第二序列数据和所述第三序列数据均包括至少一个元素，所述第二序列数据包括的一个第一元素的取值范围为第一取值范围，所述第三序列数据包括的一个第二元素的取值范围为第二取值范围，所述第二元素在所述第二序列数据中的位置与所述第一元素在所述第一序列数据中的位置一致，所述第二取值范围位于所述第一取值范围的中间区域。

3.根据权利要求2所述的方法，其特征在于，所述第一损失函数为所述第二序列数据与所述第三序列数据之间的一阶距离，所述第二元素的取值为所述第一取值范围的中值。

4.根据权利要求1至3任一项所述的方法，其特征在于，所述第一神经网络的输入数据的形状与输出数据的形状相同，所述第一序列数据与所述第二序列数据的形状相同；

其中，所述第一序列数据和所述第二序列数据均为张量，所述第一序列数据和所述第二序列数据的形状相同指的是所述第一序列数据和所述第二序列数据均为N维张量，且所述第一序列数据的N维中的第一维和所述第二序列数据的N维中的第二维的尺寸相同，所述N为大于或等于1的整数，所述第一维所述第一序列数据的N维中的任一维，所述第二维为所述第二序列数据的N维中与所述第一维相同的维度。

5.根据权利要求1至3任一项所述的方法，其特征在于，所述第一序列数据为图像数据、文本数据或音频数据，所述第一神经网络为卷积神经网络、循环神经网络或全连接神经网络。

6.一种数据处理方法，其特征在于，所述方法应用于第二执行设备，所述方法包括：

接收第一执行设备发送的第二序列数据，所述第二序列数据为所述第一执行设备将第一序列数据输入第一神经网络，通过所述第一神经网络对所述第一序列数据携带的信息进行删减处理后得到的，所述第二序列数据携带的信息量小于所述第一序列数据携带的信息量；

将所述第二序列数据输入第二神经网络，得到所述第二神经网络输出的所述第二序列数据的预测结果；

将所述第二序列数据的预测结果发送给所述第一执行设备；

其中，所述第一神经网络为通过第一损失函数和第二损失函数训练得到的，所述第一损失函数指示所述第二序列数据中携带的信息量，所述第二损失函数指示所述第一序列数据的预测结果与所述第一序列数据的正确结果之间的相似度。

7.根据权利要求6所述的方法，其特征在于，所述第一损失函数指示所述第二序列数据与第三序列数据之间的距离；

其中，所述第二序列数据和所述第三序列数据均包括至少一个元素，所述第二序列数据包括的一个第一元素的取值范围为第一取值范围，所述第三序列数据包括的一个第二元素的取值范围为第二取值范围，所述第二元素在所述第二序列数据中的位置与所述第一元素在所述第一序列数据中的位置相同，所述第二取值范围位于所述第一取值范围的中间区域。

8.根据权利要求7所述的方法，其特征在于，所述第一损失函数为所述第二序列数据与所述第三序列数据之间的一阶距离，所述第二元素的取值为所述第一取值范围的中值。