[发明专利]一种基于模糊聚类的软件保护虚拟机攻击方法

摘要

本发明公开了一种基于模糊聚类的软件保护虚拟机攻击方法，包括以下步骤1)选取被软件保护虚拟机保护的程序段，采用反汇编引擎对程序进行反汇编处理；2)提取程序执行流，将程序放入OllyDbg中执行到程序结束位置，用OllyScript记录被保护程序执行的所有指令和执行该指令后的寄存器的状态；3)分析步骤2)产生的数据流文件，提取Handler，具体如下采用递归方案对其进行裁剪；4)采用N‑Perm算法提取各个Handler的特征值；5)对Handler按照特征值相关性采用模糊聚类算法进行聚类；6)得到上述的聚类结果之后，分析其语义，带入分析程序段，给出被保护程序的流程图，从而实现对软件保护虚拟机的攻击。本发明为之后的软件保护虚拟机自动攻击研究提供了基础。

主权项

一种基于模糊聚类的软件保护虚拟机攻击方法，其特征在于，包括以下步骤：1)选取被软件保护虚拟机保护的程序段，采用反汇编引擎对程序进行反汇编处理；2)提取程序执行流，将程序放入OllyDbg中执行到程序结束位置，用OllyScript记录被保护程序执行的所有指令和执行该指令后的寄存器的状态，将记录的内容作为数据流文件，以<指令，操作数1，操作数2，通用寄存器，标志位寄存器>的格式按行存储在本地文件中；3)分析步骤2)产生的数据流文件，提取Handler，具体如下采用递归方案对其进行裁剪；实施过程为：如果数据流文件第N行数据和第M行数据在执行前后其通用寄存器和标志位寄存器的值完全相同，那么第M‑1行到第N行之间的数据流可以剪除，直接用NOP指令填充；其中M大于N，M和N为自然数；4)采用N‑Perm算法提取各个Handler的特征值；5)对Handler按照特征值相关性采用模糊聚类算法进行聚类；6)得到上述的聚类结果之后，分析其语义，带入分析程序段，给出被保护程序的流程图，从而实现对软件保护虚拟机的攻击。