[发明专利]一种AI模型可靠性判断方法、装置、设备及存储介质

权利要求书

1.一种AI模型可靠性判断方法，其特征在于，包括：

获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；

利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，所述采样样本包括数值型样本、定性类型样本、类别型样本中的一种或多种；并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；每经过预设时间段则执行依次确定用于训练AI模型的每个病例为当前病例的步骤；将当前病例中包含的全部特征数据均处理为相应的数值；利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，包括：利用每个所述采样样本及相应的诊断结果对线性回归算法或者决策树算法进行训练；

如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。

2.根据权利要求1所述的方法，其特征在于，确定所述AI模型可靠之后，还包括：

基于全部病例集合中每个病例分别对应的依据信息，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识，以供学习及使用。

3.根据权利要求1所述的方法，其特征在于，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识之后，还包括：

将所述医学知识推送至与每个相应医护人员对应的医疗处理端，以供各医护人员远程获取所述医学知识。

4.根据权利要求3所述的方法，其特征在于，确定当前病例的依据信息是否合理，包括：

将当前病例的依据信息以及表示依据信息是否合理的选项进行输出；

如果外界选择的选项表示依据信息合理，则确定当前病例的依据信息合理，否则，确定当前病例的依据信息不合理。

5.一种AI模型可靠性判断装置，其特征在于，包括：

获取模块，用于：获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；

分析模块，用于：利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，所述采样样本包括数值型样本、定性类型样本、类别型样本中的一种或多种；并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；每经过预设时间段则执行依次确定用于训练AI模型的每个病例为当前病例的步骤；将当前病例中包含的全部特征数据均处理为相应的数值；利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，包括：利用每个所述采样样本及相应的诊断结果对线性回归算法或者决策树算法进行训练；

确定模块，用于：如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。

6.一种AI模型可靠性判断设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至4任一项所述AI模型可靠性判断方法的步骤。

7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述AI模型可靠性判断方法的步骤。