[发明专利]非交互式的保护隐私神经网络预测方法

说明书

本发明属于保护隐私的机器学习领域，为提出非交互式的保护隐私神经网络方法，本发明，非交互式的保护隐私神经网络预测方法，步骤如下：首先，神经网络模型的拥有者S_NN将神经网络模型NN分解为两个子模型NN₀，NN₁，满足NN＝NN₀+NN₁，具体来讲，是指网络模型中的权重矩阵以及偏置矩阵满足以下关系：W＝W₀+W₁，B＝B₀+B₁，然后进行询问阶段，由用户将加密后的输入数据Enc(x)发送给两个服务器S₀、S₁；利用云服务器S₀，S₁根据获取到神经网络模型，实现密文上的运算，采用近似的方法来计算激活函数；对单个神经元的计算方法在整个神经网络中进行推广，便得出神经网络基于输入数据x的预测值NN(x)。本发明主要应用于网络数据通信及处理场合。

技术领域

本发明属于保护隐私的机器学习领域，公开了一种外包计算模型下的非交互保护隐私神 经网络预测方法，具体来讲,涉及在不可勾结双服务器外包模型下，实现神经网络模型隐私以 及数据隐私的预测方法。

背景技术

神经网络属于一种特殊的机器学习模型，由多个处理层组成，用于学习多个抽象层次的 数据表示。模型从原始数据开始，每个级别可以通过非线性变换将先前级别的表示转换为更 抽象级别的表示。利用足够数量的这种变换的组成，可以学习复杂的功能。通常，机器学习 方法包含两阶段范例：(1)训练阶段，其中基于大量数据学习诸如诊断模型或欺诈检测模型 的模型，以及(2)预测阶段，其中给出一些新数据，该模型用于预测。换句话说，机器学习 方法在训练阶段期间分析过去数据的模式，并在预测阶段预测新查询的结果。

随着大数据技术以及不断增加的计算能力，机器学习的进步提高了人工智能任务计算水 平，使得机器学习在诸如复杂的棋盘游戏，图像分类，面部识别和疾病诊断等许多应用中的 优越性能而获得了广泛的普及。数据所有者可以在从训练数据获得机器学习模型之后向客户 端提供预测服务，称为机器学习即服务。例如，医院可以分析患者的电子病历以训练神经网 络模型(数据收集和分析应遵守健康保险流通与责任法案等规定)，以后可用于分析远程医疗 数据诊断，例如根据客户的查询数据预测心脏病的概率。虽然预测服务具有明显的好处，但 也出现了严重的隐私问题，因为这些服务通常需要明确地访问用户的信息。在大多数情况下， 这些情况涉及非常敏感的信息，例如个人医疗或财务数据。更重要的是，神经网络模型是建 立在敏感数据集的基础之上，因而神经网络模型可以揭示有关训练数据的敏感信息。因而， 如何实现神经网络预测服务中的隐私保护问题具有重要的应用价值。

发明内容

为克服现有技术的不足，本发明旨在提出非交互式的保护隐私神经网络方法。为此，本 发明采取的技术方案是，非交互式的保护隐私神经网络预测方法，步骤如下：

首先，神经网络模型的拥有者将神经网络模型NN分解为两个子模型NN₀，NN₁，满足 NN＝NN₀+NN₁，具体来讲，是指网络模型中的权重矩阵以及偏置矩阵满足以下关系： W＝W₀+W₁，B＝B₀+B₁，然后，分别将NN₀，NN₁发送给服务器S₀、云服务器S₁，B₀，B₁是利用加法分享拆分得出的两个偏置矩阵，W₀，W₁是利用加法分享拆分得出的两个权重矩阵， W＝{w₁，…}是神经网络每一层的权重参数矩阵，B＝{b₁，…}是神经网络每一层的偏置矩阵；