[发明专利]一种数据处理方法和相关设备

说明书

本申请实施例公开了一种基于人工智能的数据处理方法和相关设备，该方法包括：针对需要进行数据处理的输入参数，在将其输入至模型中后，可以获取第一目标层的第一原始激活值，对第一原始激活值进行量化，确定对应的第一量化激活值，该第一量化激活值处于整型值范围内。也就是说，将第一原始激活值量化为整型值。如此，根据经量化的第一量化激活值和该第一目标层的权重进行前向计算。在该第一量化激活值通过第一目标层完成前向计算后，可以根据对第一原始激活值的量化方式，对经过前向计算的结果进行反量化，得到第一目标层的输出结果。在通过模型完成针对输入参数的计算后，确定输入参数对应的数据。该方法提升了数据处理设备的计算能力。

技术领域

本申请涉及数据处理领域，特别是涉及一种数据处理方法和相关设备。

背景技术

在一些数据处理场景中，通常将数据输入至场景对应的模型中，通过模型中各层的计算，得到该数据对应的结果。其中，在模型中各层参与计算的激活值通常为32位浮点型数据。

例如，在通过语音降噪模型进行语音降噪时，将语音数据输入至该模型后，在该模型中的各层参与计算的激活值通常为对应的32位浮点型数据，通过该模型进行运算后，得到经过降噪的语音。其中，激活值可以是指模型中各层的输入数据或输出数据。

基于该种数据处理方式需要针对32位的数据进行计算，对数据处理的带宽压力较大，降低了计算能力。

发明内容

为了解决上述技术问题，本申请提供了数据处理方法和相关设备，减小了数据处理的带宽压力，提升了数据处理设备的计算能力。

本申请实施例公开了如下技术方案：

一方面，本申请实施例提供了一种数据处理方法，所述方法包括：

在将输入参数输入至模型中之后，获取第一目标层的第一原始激活值，所述第一目标层为所述模型中的任意一层；

对所述第一原始激活值进行量化，确定对应的第一量化激活值；所述第一量化激活值处于整型值范围内；

根据所述第一量化激活值和所述第一目标层的权重进行前向计算；

根据对所述第一原始激活值的量化方式对经过所述前向计算的结果进行反量化，得到所述第一目标层的输出结果；

在通过所述模型完成针对所述输入参数的计算后，确定所述输入参数对应的数据。

可选的，作为第二目标参数的所述第一原始激活值或所述第二原始权重，对所述第二目标参数进行量化，确定对应的第二量化参数的方式如下：

确定所述第二目标参数所对应绝对值的第二目标最大值；

确定所述第二目标参数对应的第三数值与第二整型特征数的第三乘积，所述第三数值为所述第二目标参数与所述第二目标最大值的商；

确定所述第三乘积对应的整数值，作为所述第二目标参数对应的第二量化参数，当所述第二目标参数为所述第一原始激活值时，所述第二量化参数为所述第一量化激活值，当所述第二目标参数为所述第二原始权重时，所述第二量化参数为所述第二量化权重。

另一方面，本申请实施例提供了一种数据处理装置，所述装置包括：

获取单元，用于在将输入参数输入至模型中之后，获取第一目标层的第一原始激活值，所述第一目标层为所述模型中的任意一层；

量化单元，用于对所述第一原始激活值进行量化，确定对应的第一量化激活值；所述第一量化激活值处于整型值范围内；

计算单元，用于根据所述第一量化激活值和所述第一目标层的权重进行前向计算；

反量化单元，用于根据对所述第一原始激活值的量化方式对经过所述前向计算的结果进行反量化，得到所述第一目标层的输出结果；