[发明专利]基于可解释性算法的模型鲁棒性优化方法

权利要求书

1.基于可解释性算法的模型鲁棒性优化方法，其特征在于：所述包括以下操作步骤：

S1：针对多个AI医学分类任务，收集数据，数据细分为模型学习数据和模型鲁棒性测试数据；

S2：对模型学习数据进行预处理，包括：旋转、加噪声、去噪、去端分割、GAN生成增强数据，以此从数据角度实现模型鲁棒性增强；

S3：对原数据量较大的分类任务进行建模，可以以任意一种网络结构的方式进行建模，建模包括：基于神经网络建立AI医学深度学习模型及网络结构，模型学习数据分为3：1：1，进行训练、验证和测试，同时训练验证采用交叉验证，以此进一步增强鲁棒性；

S4：基于可解释性对数据进行进一步消歧和预处理，对S3中的模型最后一层进行CAM可解释性分析及可视化，同时CAM算法可以采用但不仅限于Grad-CAM，根据可视化结果实现数据消歧；

S5：在分类过程中，对过往层进行CAM可解释性分析，CAM算法可以但不仅限于LayerCAM，；

S6：对过往层的可解释性进行评价，判断该层是否具备医学可解释性，其算法可解释性与医学先验知识相吻合，评价方法是基于深度学习算法建立分割模型，实现对医学影像中的病斑进行识别，计算CAM生成的热图与病斑所在区域的交叉覆盖率score和一致性分数，采用所有图片的均值，该值大于60％，则该层具备医学可解释性，还可以通过医生判断是否正确，采用XAIindicator作为衡量标准，其公式为：

S7：将具备可解释性的层与之后的各层进行Skip+attention进行跳接，实现算法优化；

S8：测试该算法的鲁棒性，测试方法包括以下方法：

A：直接测试“模型鲁棒性测试数据”，并计算其准确率、ROC、敏感度、特异性等；

B：对抗性测试，对抗性测试涉及将人工智能模型暴露在故意修改的数据中，以检测潜在的弱点和需要改进的领域；

C：交叉验证，交叉验证评估AI模型在不同训练数据子集上的性能，以确保它可以很好地概括到新数据，并避免过度拟合；

D：敏感性分析，灵敏度分析衡量模型在其输入数据被扰动或修改时的性能，以评估模型对输入数据变化的稳健性；

E：压力测试，压力测试调查人工智能模型在极端条件下的表现，以确定其限制，并确定其处理具有挑战性的场景的能力；

S9：将优化后的算法采用迁移机制，迁移到数据量较小的分类任务中，并重复步骤S3-S8。

2.根据权利要求1所述的基于可解释性算法的模型鲁棒性优化方法，其特征在于：所述模型学习数据和模型鲁棒性测试数据为两个不相关的数据，同时模型鲁棒性测试数据为真实世界中的数据。