[发明专利]一种量子模糊机器学习对抗防御模型方法

说明书

一种量子模糊机器学习对抗防御模型方法，包括：S1、构造合法用户的量子模糊数据样本；S2、模拟恶意攻击者构建攻击策略：将构造好的扰动添加到合法用户的量子模糊数据样本中，形成恶意攻击者的量子模糊对抗样本；S3、将合法用户的量子模糊数据样本与恶意攻击者的量子模糊对抗样本提交给量子模糊机器学习系统训练和学习，量子模糊机器学习系统做出正确决策；其中，量子模糊机器学习系统包括对抗防御模块，对抗防御模块为防御恶意攻击者的对抗样本，使量子模糊机器学习系统做出正确决策。该模型方法可有效抵御恶意攻击者的攻击，提升量子模糊机器学习系统的安全性和鲁棒性，确保量子模糊机器学习算法安全、可靠地运行。

技术领域

本发明涉及量子机器学习，模糊集理论以及网络对抗领域，尤其涉及一种量子模糊机器学习对抗防御模型。

背景技术

近些年来，机器学习领域取得了许多研究成果，并在众多领域取得了成功的应用，但是机器学习也面临着许多安全隐患。例如机器学习系统很容易被对抗样本所欺骗，从而导致错误的分类；使用在线机器学习系统进行分类的用户不得不向服务器公开他们的数据，这会导致隐私泄露，更糟糕的是机器学习的广泛使用正在加剧这些安全风险。目前，许多研究人员正在探索和研究针对深度学习潜在攻击以及相应的防御技术。在过去3年里，有关机器学习系统安全的研究2018年比2017年增长了61.5％，2019年比2018年增长了56.2％，这也说明了机器学习乃至人工智能领域的安全问题越来越引起人们的重视。

在经典的机器学习中，对抗攻击与对抗防御已取得了一些成果。Szegdy等人首先提出了对抗样本的概念，并提出了L-BFGS攻击方法，该方法对要预测或分类的样本里加入精心构造的扰动，输入给已训练好的模型，导致模型以很高的置信度给出错误的输出。同时，作者提出利用对抗样本进行对抗训练，可以提高深度神经网络的鲁棒性。Goodfellow等人提出深度神经网络在高维空间中的线性特性是导致对抗攻击产生的根本原因，并利用FGSM生成对抗样本，来攻击分类模型。Papernot等人针对机器学习的安全性和隐私性，提出了一种机器学习的威胁模型；Carlini等人提出了文本对抗攻击模型(Deep Search)，该模型可以通过添加小扰动将任意给定的波形转换成任意期望的目标短语；庞天宇等人提出了一种反向交叉熵对抗防御方法，可以有效地抵御对抗攻击；谢慈航等人提出在预测过程使用对输入的随机化来防御对抗攻击并减轻影响。Samangouei等人利用GAN来保护分类器，以防御对抗样本的攻击。

在量子机器学习中，要研究量子分类器的安全性和鲁棒性，首先将经典的对抗攻击和对抗防御方法引入量子分类器，并利用量子力学的性质，探索量子对抗攻击与对抗防御方法。 2018年，Wiebe等人利用量子信息来保护量子分类器，使得量子分类器更安全、更隐私。2019 年，Liu等人提出量子分类容易受到对抗干扰的攻击，并证明引起错误分类所需要的扰动量与希尔伯特空间的维数成反比，并提出量子对抗攻击所需要的防御资源，至少与系统的希尔伯特空间的维数呈多项式增长。2019年，Jiang等人发现基于深度神经网络的典型的相变分类器极易受到对抗性样本的攻击，揭示了机器学习技术应用于凝聚态物理的脆弱性。2019年， Casares等人提出一种量子主动学习算法来防御对抗样本的攻击，并实现了指数级加速效率。 2019年，Lu等人利用白盒攻击和黑盒攻击，构造对抗样本来攻击量子分类器，揭示了QML 系统在对抗扰动方面的脆弱性，同时利用对抗训练来防御对抗样本的攻击，验证了量子对抗训练能够增强变分量子分类器的鲁棒性。2020年，Du等人利用量子噪声来保护量子分类器，成功防御了对抗样本的攻击。

目前，针对机器学习的安全性分析与研究已取得了一些成果，但针对量子模糊机器学习算法的安全性(比如潜在防御技术)研究还没有，量子模糊机器学习算法还具有脆弱性及很多的不足，安全性和鲁棒性均需要提升，同时，为了抵御恶意攻击者的攻击，亟需一种针对量子模糊机器学习的对抗防御模型方法。

发明内容