[发明专利]对抗训练方法及装置、神经网络模型的应用方法及装置

说明书

本发明提供了一种对抗训练方法及装置、神经网络模型的应用方法及装置。对抗训练方法包括：获取原始医学图像；获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；将原始医学图像和对抗样本作为训练样本训练医学神经网络模型，可以提高医学神经网络模型防御对抗攻击的鲁棒性，提高医学神经网络模型的泛化能力，以及提高医学神经网络模型的预测效果。

技术领域

本发明涉及深度学习技术领域，具体涉及一种对抗训练方法及装置、神经网络模型的应用方法及装置。

背景技术

近年来，深度学习已经改变了计算机视觉，并且已经在大量面向消费者的产品中得到了应用。深度学习的一个特别令人兴奋的应用领域是医学影像处理和辅助诊断。近年来已经有许多备受瞩目的医疗人工智能项目，在放射学、病理学和眼科学任务中取得接近甚至超越人类医生的水平。

然而，深度学习技术有许多潜在的问题，比如神经网络模型非常容易受到对抗攻击，存在严重的安全风险。对抗攻击指的是在神经网络模型原始输入上添加对抗扰动构建对抗样本，从而使神经网络模型产生错误判断的过程。

发明内容

有鉴于此，本发明实施例提供了一种对抗训练方法及装置、神经网络模型的应用方法及装置，能够提高医学神经网络模型防御对抗攻击的鲁棒性，提高医学神经网络模型的泛化能力，以及提高医学神经网络模型的预测效果。

根据本发明实施例的第一方面，提供一种对抗训练方法，包括：获取原始医学图像；获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；将原始医学图像和对抗样本作为训练样本训练医学神经网络模型。

在本发明的一个实施例中，上述获取原始医学图像对应的对抗样本，包括：获取多个图像，其中，多个图像中的每个图像包括自然图像或医学图像；基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声；添加噪声至原始医学图像上，得到对抗样本。

在本发明的一个实施例中，上述基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声，包括：基于图像变换参数，对多个图像进行图像变换；基于权重参数，将经过图像变换后的多个图像进行加权混合，得到噪声。

在本发明的一个实施例中，上述基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声，还包括：将对抗样本输入医学神经网络模型，获取损失值；根据损失值，通过对抗攻击方法更新图像变换参数和/或权重参数，得到优化后的噪声，其中，上述添加噪声至原始医学图像上，得到对抗样本，包括：添加优化后的噪声至原始医学图像上，得到优化后的对抗样本。

在本发明的一个实施例中，上述添加噪声至原始医学图像上，得到对抗样本，包括：将噪声与原始医学图像进行加权混合，得到对抗样本。

根据本发明实施例的第二方面，提供一种神经网络模型的应用方法，包括：获取待处理医学图像；利用医学神经网络模型对待处理医学图像进行处理，得到处理结果，其中，医学神经网络模型通过原始医学图像和对抗样本训练得到，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的。

根据本发明实施例的第三方面，提供一种对抗训练装置，包括：第一获取模块，用于获取原始医学图像；第二获取模块，用于获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；训练模块，用于将原始医学图像和对抗样本作为训练样本训练医学神经网络模型。

根据本发明实施例的第四方面，提供一种神经网络模型的应用装置，包括：获取模块，用于获取待处理医学图像；处理模块，用于利用医学神经网络模型对待处理医学图像进行处理，得到处理结果，其中，医学神经网络模型通过原始医学图像和对抗样本训练得到，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的。