[发明专利]一种基于特征图和类激活映射的深度学习应用组件可解释方法

权利要求书

1.一种基于特征图和类激活映射的深度学习应用组件可解释方法，其特征是围绕深度学习应用评估，基于可视化技术，对深度学习模型的输入、模型静态结构、模型动态推理过程等信息进行可视化展示，加强测试人员对深度学习技术的理解，进而实现对于深度学习应用的质量评估。

2.根据权利要求1中的基于特征图(feature map)的深度学习应用组件可视化，其特征是，通过对模型进行切片以获取在中间层的输出情况，将不同隐层的输出向量经过TNSE投影到二维平面，对于一个给定的特征图，本项目拟通过多个不同输入在该特征图上的输出，将激活情况映射到像素空间，揭示其不同的结构激发映射并且揭示其对输入变化的不变形；还会通过特征图观察训练过程中的特征演变；对于一个模型中的某一层给定的特征图，通过记录在训练过程中不同epochs下的特征图可视化结果，比较其收敛情况。

3.根据权利要求1中的基于类激活映射的模型推理过程可视化，其特征是，通过用类别相对于通道的梯度对这个特征图中的每个通道进行加权，进而以热力图的形式来可视化类激活图得到最终的解释结果。

4.对于权利要求1中的基于可视化的深度学习应用评估方法，其特征是，通过研究语义特征变换关系在高维数据中的表现形式，并针对拥有这类特征的智能软件测试，基于语义特征变换关系和新型生成技术，开发用于自动化生成语义特征变异测试样本的框架工具。