[发明专利]对视频帧数据进行处理的方法和装置

权利要求书

1.一种对视频帧数据进行处理的方法，其特征在于，所述方法包括：

将预先训练的神经网络中的权重参数的数据类型转换为定点型，得到转换后的权重参数，其中，所述神经网络为用于在视频编解码过程中对视频帧数据进行目标处理的算法模型，所述神经网络为卷积神经网络，所述权重参数包括卷积核元素和偏置；

根据预设的定点型的视频帧数据的数据位宽、以及预先统计的所述神经网络的输入层输出的特征数据中绝对值最大的数据，将待进行目标处理的视频帧数据的数据类型转换为定点型，得到转换后的视频帧数据；

将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据；

所述将预先训练的神经网络中的权重参数的数据类型转换为定点型，得到转换后的权重参数，包括：

对于预先训练的卷积神经网络中的每个卷积核，确定所述卷积核中绝对值最大的卷积核元素；对于所述卷积神经网络中的多个偏置，确定所述多个偏置中绝对值最大的偏置；根据每个卷积核中绝对值最大的卷积核元素、以及预设的定点型的卷积核元素的数据位宽，将每个卷积核中的卷积核元素的数据类型转换为定点型，根据多个偏置中绝对值最大的偏置、以及预设的定点型的偏置的数据位宽，将所述多个偏置的数据类型转换为定点型，得到转换后的权重参数。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

将预设的所述视频帧数据的边信息的数据类型转换为定点型，得到转换后的边信息；

所述将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据，包括：

将转换后的视频帧数据和转换后的边信息，输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据。

3.根据权利要求1-2任一项所述的方法，其特征在于，所述目标处理为去失真滤波处理；

所述将待进行目标处理的视频帧数据的数据类型转换为定点型，得到转换后的视频帧数据，包括：

将在视频编解码过程中进行重建处理得到的视频帧图像的数据类型转换为定点型，得到转换后的视频帧数据；

所述将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据，包括：

将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，进行去失真滤波处理，得到去失真的视频帧图像。

4.根据权利要求1-2任一项所述的方法，其特征在于，所述目标处理为编码帧内预测处理；

所述将待进行目标处理的视频帧数据的数据类型转换为定点型，得到转换后的视频帧数据，包括：

将在视频编码过程中原始未处理的视频帧图像中的目标区域的图像、以及在所述原始未处理的视频帧图像对应的重建处理得到的视频帧图像中与所述目标区域对应的关联区域的图像的数据类型转换为定点型，得到转换后的视频帧数据；

所述将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据，包括：

将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，进行编码帧内预测处理，得到帧内预测图像和帧内预测相关信息。

5.根据权利要求1-2任一项所述的方法，其特征在于，所述目标处理为编码帧间预测处理；

所述将待进行目标处理的视频帧数据的数据类型转换为定点型，得到转换后的视频帧数据，包括：

将在视频编码过程中原始未处理的视频帧图像、以及所述原始未处理的视频帧图像对应的去失真滤波处理后的参考帧图像的数据类型转换为定点型，得到转换后的视频帧数据；

所述将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据，包括：

将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，进行编码帧间预测处理，得到帧间预测图像和帧间预测相关信息。