[发明专利]使用多层支持向量机的异常检测系统及其方法

说明书

分类器网络具有至少两组不同的细化数据，其中前两组细化数据是表示从传感器或制造零件接收的特征值数据的数字集。通过至少两种不同类型的支持向量机，在第一层中为每个分类器独立地使用相关的特征选择过程，对制造零件执行异常检测。然后，使用存储数据，包括至少两种不同类型的数据变换的细化数据，并通过第二层中的至少两种不同类型的支持向量机，独立地为每个分类器执行相关的特征选择过程。使用存储数据或系数形成至少四种不同的复合分类器类型，用于零件上的异常检测。第二层支持向量机输出的集合比较结果从而确定是否存在异常。

美国政府利益声明

本发明是在美国陆军授予的第W58RGZ-13-D-0245号合同的政府支持下完成的。美国政府对本发明享有一定的权利。

技术领域

本发明涉及异常分析装置、方法及其非暂时性计算机可读存储介质。更具体地，本发明涉及与机器学习和支持向量机有关的异常分析装置、方法和非暂时性计算机可读存储介质。

背景技术

随着科学技术的飞速发展，现在有许多制造技术可供使用。使用这些新技术制造零件可以通过标准的质量控制检查，但由于许多因素仍然操作异常。

一些通过使用机器学习模型检测制造零件(manufactured part)中的异常或缺陷的技术通常是可用的。例如，一些传统技术要求用户根据他/她的经验确定哪些参数更重要，然后使用这些参数来训练机器学习模型以检测异常。但是，不同的制造零件和异常会受到不同因素的影响，因此用户对每个制造零件做出的确定结果往往不适于另一个制造零件。此外，其它一些技术只对制造零件的某些部分或特征进行分析，而不是对整个制造零件进行分析，因此通过训练获得的模型不适于其它制造零件。

发明内容

因此，本领域需要提供一种能够客观地选择制造零件的更重要特征的技术，无论这些特征是未处理的输入数据、使用域适当的滤波和/或分析功能的已处理输入数据集、或由系统内部的分类器输出生成的特征空间投影，结合不同类型分类器集合的优化，对选定的特征进行操作，作为不同分类器集的每个成员的不同输入集，每个不同的特征子集是针对每个分类器的联合分类器/特征集优化过程的结果，该过程针对集成中的每个分类器独立操作，用于在制造、校准和/或认证过程的各个步骤中检测和分析异常。

在一个实施例中，校准过程中的缺失步骤(在该步骤期间校准图像数据被采集为图像传感器补偿所必需的数据的基本分量)表现为印在校准数据上的多种类型的图案。这些图案具有与其表现形式相关的高度差异。每种图案类型内的不同图案和统计差异的组合使得即使主题专家也很难有信心检测到校准过程中缺失步骤的缺少。由于生产过程中潜在差距的特性，只有极少数异常示例可用于分类器训练，加剧了检测问题，并限制了制造零件异常检测系统的架构选项。

在一个示例性实施例中的异常分析装置包括存储单元和电连接到存储单元的处理器。存储单元存储从训练支持向量机(SVM)得到的系数，该系数定义了用于新数据的SVM。如果使用基于最近邻的分类器(这是附加多样性的替代选项)，则存储单元将存储每个训练示例的选定特征值，或者仅存储训练数据集的选定代表。此外，存储单元可以存储多个零件数据，其中每个零件数据包括多个零件特征值。处理器配置为对每个零件数据进行降维从而通过在优化的判别轴上进行线性投影的过程来生成判别投影，其中该投影是通过(根据分类优化技术将训练数据分类为多个第一正常数据和多个第一异常数据的)最小化训练误差的分类模型优化过程的结果。

根据自举交叉验证过程，处理器还可以配置为选择不包括在随机选择的训练数据集中的训练数据的单独子集作为多个测试数据，在预先确定的迭代次数上随机抽样该单独子集，并通过在自举交叉验证过程中使用训练数据的第二个单独子集作为“保留”集来测试分类模型，从而得出准确率。值得注意的是，这可以应用于整个网络以估计总体错误率，但是就所需的CPU时间而言，在整个网络上这样做可能是不行的。