[发明专利]基于树结构的多样化变体生成方法及系统

说明书

本发明属于计算机网络安全技术领域，特别涉及一种基于树结构的多样化变体生成方法及系统，该方法包含：利用多样化编译手段对软件源码进行编译，获取对外表现出不同表现形式的可执行变体；基于树结构对多样化可执行变体建模，树结构中节点表示变体，树的边表示节点之间距离，边的权重表示边所连接两个变体之间的差异性；对树结构模型进行求解，选取并生成差异性最大的变体组合。本发明利用多样化编译技术对软件进行编译使软件对外表现出不同表现形式的NVX(N‑Variant eXecution)变体，并基于树结构进行建模求解实现差异性最大的变体组合的选取，能够生成较可靠安全的软件运行环境，提升用户体验，具有较强实用性。

技术领域

本发明属于计算机网络安全技术领域，特别涉及一种基于树结构的多样化变体生成方法及系统。

背景技术

如今的软件安全环境中，攻击方和防御方往往处在不平等的地位。NVX技术的提出通过创建难以预测的防御手段，从而增加攻击者的成本和难度，试图打破这攻防不平衡的现状。从2006年开始，就有很多的NVX技术被用于内存安全、内核安全等安全场景，通过两个或两个以上的变体同时运行在相同、或者不同的物理机器上，并且提供给变体相同的激励，并且通过监视器来比较变体的输出行为。Cox在2006年提出了N变体系统，并且比较了不相交的布局映射和指令集随机化等变体生成策略的效果。Salamat等人在2009年提出了Orchestra，在两个变体中以相反的方向生成栈，从而构建两个不同而变体。GHUMVEE应用了不连贯代码布局(Disjoint Code Layouts，DCL)的方法来引入软件多样性，该方法确保在代码变体的地址空间中没有句段重叠，使得在ROP攻击期间没有共存的多个运行的gadgets程序。Hosek提出的Varan，依靠静态二进制工具来显著提高MVEE的性能，更关注于软件可靠性而不是安全性，相同的设计目的还包括：Mx和Taychon。MvArmor将软件置于用户权限而非内核权限中来更好的保护监视器的安全。

发明内容

为此，本发明提供一种基于树结构的多样化变体生成方法及系统，利用多样化编译技术对软件进行编译使软件对外表现出不同表现形式的NVX变体，并基于树结构进行建模求解实现差异性最大的变体组合的选取，能够生成较可靠安全的软件运行环境，提升用户体验。

按照本发明所提供的设计方案，一种基于树结构的多样化变体生成方法，包含如下内容：

利用多样化编译手段对软件源码进行编译，获取对外表现出不同表现形式的可执行变体；

基于树结构对多样化可执行变体建模，树结构中节点表示变体，树的边表示节点之间距离，边的权重表示边所连接两个变体之间的差异性；

对树结构模型进行求解，选取并生成差异性最大的变体组合。

作为本发明基于树结构的多样化变体生成方法，进一步的，多样化编译手段包含但不限于：用于对软件进行编译以获取可执行变体的不透明谓词插入、变量分割/合并、数据流展平、指令替换、垃圾代码注入及虚拟化混淆。

作为本发明基于树结构的多样化变体生成方法，进一步地，树结构中，根节点表示未使用混淆编译获取的可执行变体，其他节点表示使用单一混淆编译或混合混淆编译获取的可执行变体。

作为本发明基于树结构的多样化变体生成方法，进一步地，利用遍历算法对树结构模型进行求解，寻找出树结构所有多样化变体组合中差异性最大的变体组合。

作为本发明基于树结构的多样化变体生成方法，进一步地，遍历算法求解中，首先获取树结构中任意两个节点之间的距离，对于所有多样化变体组合的树节点通过寻找满足用户所需变体个数的节点距离的最大组合来获取差异性最大的变体组合。

作为本发明基于树结构的多样化变体生成方法，进一步地，利用DQN算法通过深度学习和强化学习对树结构模型进行求解，利用不同变体组合所得到的奖励值来选择差异性最大的变体组合。