[发明专利]基于可解释性算法的模型鲁棒性优化方法

说明书

本发明公开了基于可解释性算法的模型鲁棒性优化方法，所述包括以下操作步骤：S1：针对多个AI医学分类任务，收集数据；S2：对模型学习数据进行预处理；S3：对原数据量较大的分类任务进行建模；S4：基于可解释性对数据进行进一步消歧和预处理；S5：在分类过程中，对过往层进行CAM可解释性分析；S6：对过往层的可解释性进行评价；S7：将具备可解释性的层与之后的各层进行跳接，实现算法优化；S8：测试该算法的鲁棒性。本发明所述的基于可解释性算法的模型鲁棒性优化方法，本研究提出了一个优化模型，使得改进模型的可解释性更高，此外，迁移学习在处理数据量较小的图像分类中可以显示出明显的优势，显示出解决训练数据集小的问题的潜力。

技术领域

本发明涉及模型鲁棒性优化领域，特别涉及基于可解释性算法的模型鲁棒性优化方法。

背景技术

鲁棒是Robust的音译，也就是健壮和强壮的意思，它是在异常和危险情况下系统生存的关键，比如说，计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下，能否不死机、不崩溃，就是该软件的鲁棒性，所谓“鲁棒性”，是指控制系统在一定的参数摄动下，维持其它某些性能的特性，根据对性能的不同定义，可分为稳定鲁棒性和性能鲁棒性，以闭环系统的鲁棒性作为目标设计得到的固定控制器称为鲁棒控制器。

在针对老年性黄斑变性的模型技术上，现有的模型技术的测试准确率较低，其平均可解释性指数的精度也较差，导致整体可解释性较低，同时每个图像的平均测试时间较长，其模型稳健性也较不稳定，导致整体优势较低，同时不方便解决训练数据集小的问题。

因此，提出基于可解释性算法的模型鲁棒性优化方法来解决上述问题很有必要。

发明内容

本发明的主要目的在于提供基于可解释性算法的模型鲁棒性优化方法，可以有效解决背景技术中的问题。

为实现上述目的，本发明采取的技术方案为：

基于可解释性算法的模型鲁棒性优化方法，所述包括以下操作步骤：

S1：针对多个AI医学分类任务，收集数据，数据细分为模型学习数据和模型鲁棒性测试数据；

S2：对模型学习数据进行预处理，包括：旋转、加噪声、去噪、去端分割、GAN生成增强数据，以此从数据角度实现模型鲁棒性增强；

S3：对原数据量较大的分类任务进行建模，可以以任意一种网络结构的方式进行建模，建模包括：基于神经网络建立AI医学深度学习模型及网络结构，模型学习数据分为3：1：1，进行训练、验证和测试，同时训练验证采用交叉验证，以此进一步增强鲁棒性；

S4：基于可解释性对数据进行进一步消歧和预处理，对S3中的模型最后一层进行CAM可解释性分析及可视化，同时CAM算法可以采用但不仅限于Grad-CAM，根据可视化结果实现数据消歧；

S5：在分类过程中，对过往层进行CAM可解释性分析，CAM算法可以但不仅限于LayerCAM，；

S6：对过往层的可解释性进行评价，判断该层是否具备医学可解释性，其算法可解释性与医学先验知识相吻合，评价方法是基于深度学习算法建立分割模型，实现对医学影像中的病斑进行识别，计算CAM生成的热图与病斑所在区域的交叉覆盖率score和一致性分数，采用所有图片的均值，该值大于60％，则该层具备医学可解释性，还可以通过医生判断是否正确，采用XAIindicator作为衡量标准，其公式为：

S7：将具备可解释性的层与之后的各层进行Skip+attention进行跳接，实现算法优化；

S8：测试该算法的鲁棒性，测试方法包括以下方法：

A：直接测试“模型鲁棒性测试数据”，并计算其准确率、ROC、敏感度、特异性等；