[发明专利]知识蒸馏学习模型的预测方法、系统、设备及存储介质

权利要求书

1.一种知识蒸馏学习模型的预测方法，其特征在于，通过知识蒸馏向已训练好的教师模型学习，以得到学生模型，所述预测方法具体包括以下步骤：

获取待检测样本；

将所述待检测样本输入至所述学生模型，以得到所述学生模型输出的第一预测结果和第一置信度；

判断所述第一置信度是否高于一置信度阈值；

若是，将所述第一预测结果输出，并退出执行；

若否，将所述待检测样本输入至所述教师模型中，以得到所述教师模型输出的第二预测结果和第二置信度，并判断所述第一置信度是否低于所述第二置信度；

若是，将所述第二预测结果输出，并退出执行；

若否，将所述第一预测结果输出，并退出执行。

2.如权利要求1所述的知识蒸馏学习模型的预测方法，其特征在于，所述置信度阈值的设置方法具体包括以下步骤：

获取测评样本集，所述测评样本集包括多个测评样本；

设置多个测评阈值；

将所述测评样本集分别输入至所述学生模型和所述教师模型中，所述学生模型和所述教师模型根据设置的所述测评阈值输出对应于所述测评阈值的预测参数，所述预测参数包括预测精度和预测速度；

选择最佳的所述预测参数对应的所述测评阈值作为所述置信度阈值。

3.如权利要求2所述的知识蒸馏学习模型的预测方法，其特征在于，所述测评阈值与所述预测精度之间为正相关的关系，所述测评阈值与所述预测速度之间为负相关的关系。

4.如权利要求1所述的知识蒸馏学习模型的预测方法，其特征在于，获取所述第一置信度具体包括以下步骤：

获取所述学生模型根据所述第一预测结果输出的第一logits矩阵；

对所述第一logits矩阵进行softmax计算，以得到概率分布矩阵，所述概率分布矩阵用于表征所述第一置信度。

5.如权利要求1所述的知识蒸馏学习模型的预测方法，其特征在于，获取所述第二置信度具体包括以下步骤：

获取所述教师模型根据所述第二预测结果输出的第二logits矩阵；

对所述第二logits矩阵进行softmax计算，以得到概率分布矩阵，所述概率分布矩阵用于表征所述第二置信度。

6.如权利要求2所述的知识蒸馏学习模型的预测方法，其特征在于，所述置信度阈值为0.95。

7.一种知识蒸馏学习模型的预测系统，其特征在于，通过知识蒸馏向已训练好的教师模型学习，以得到学生模型，所述预测系统具体包括：

样本获取模型，用于获取待检测样本；

第一置信度获取模块，用于将所述待检测样本输入至所述学生模型，以得到所述学生模型输出的第一预测结果和第一置信度；

第二置信度获取模块，用于将所述待检测样本输入至所述教师模型中，以得到所述教师模型输出的第二预测结果和第二置信度；

判断模块，用于判断所述第一置信度是否高于一置信度阈值；

于第一置信度高于所述置信度阈值时，将所述第一预测结果输出，并退出执行；

于第一置信度未高于所述置信度阈值时，执行所述第二置信度获取模块，判断所述第一置信度是否低于所述第二置信度；

于所述第一置信度低于所述第二置信度时，将所述第二预测结果输出，并退出执行；

于所述第一置信度未低于所述第二置信度时，将所述第一预测结果输出，并退出执行。

8.如权利要求7所述的知识蒸馏学习模型的预测系统，其特征在于，所述判断模块包括置信度阈值设置单元，所述置信度阈值设置单元包括：

测评样本集获取组件，用于获取测评样本集，所述测评样本集包括多个测评样本；

测评阈值设置组件，用于设置多个测评阈值；

测评组件，用于将所述测评样本集分别输入至所述学生模型和所述教师模型中，所述学生模型和所述教师模型根据设置的所述测评阈值输出对应于所述测评阈值的预测参数，所述预测参数包括预测精度和预测速度；

选择组件，用于选择最佳的所述预测参数对应的所述测评阈值作为所述置信度阈值。