[发明专利]基于U-Transformer多层次特征重构的异常检测方法及系统

说明书

本发明提供了一种基于U‑Transformer多层次特征重构的异常检测方法及系统，包括如下步骤：模型建立步骤：建立U‑Transformer模型；推断步骤：通过U‑Transformer模型对样本进行异常检测。本发明完全使用正常样本进行训练，提取多尺度的特征信息，并通过从局部到整体的多层次特征重构的方式进行异常检测；在有部分异常样本参与训练的时候，U‑Transformer模型的异常检测能力将会得到进一步的提升，有利于提高特征重构的异常检测的效果。

技术领域

本发明涉及特征重构的异常检测的技术领域，具体地，涉及一种基于U-Transformer多层次特征重构的异常检测方法及系统。

背景技术

在实际的工业质检中，异常样本极度稀缺，常用的异常检测方法是通过剪辑神经网络的自编码器的特征重构。

利用卷积神经网络的自编码器的特征重构方法的异常检测方法包括以下几个：

[1]Bergmann P,Fauser M,Sattlegger D,et al.MVTec AD—A ComprehensiveReal-World Dataset for Unsupervised Anomaly Detection[C]//2019 IEEE/CVFConference on Computer Vision and Pattern Recognition(CVPR).IEEE,2020.。

[2]Dehaene D,Frigo O,Combrexelle S,et al.Iterative energy-basedprojection on a normal data manifold for anomaly localization.2020.。

[3]Zhou K,Xiao Y,Yang J,et al.Encoding Structure-Texture Relationwith P-Net for Anomaly Detection in Retinal Images[J].2020.。

上述文件的缺点为：直接对于像素进行重构，语义信息的层次不深，正常与异常样本的区分度不高。使用基于卷积神经网络的自编码器，单输入-单输出结构，容易学习得到简单的横等映射。仅具有局部特征，能够捕捉临近位置的依赖关系。

针对上述中的相关技术，发明人认为特征重构的异常检测的效果较差。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于U-Transformer多层次特征重构的异常检测方法及系统。

根据本发明提供的一种基于U-Transformer多层次特征重构的异常检测方法，其特征在于，包括如下步骤：

模型建立步骤：建立U-Transformer模型；

推断步骤：通过所述U-Transformer模型对样本进行异常检测。

优选的，所述模型建立步骤包括如下步骤：

特征提取步骤：预训练特征提取器，通过所述特征提取器提取出多尺度特征；

网络结构步骤：建立U-Transformer模型，通过所述U-Transformer模型对提取的所述多尺度特征进行重构；

训练步骤：对所述U-Transformer模型进行训练更新。

优选的，所述推断步骤包括：通过提取的所述多尺度特征和重构的多尺度特征之间的差异度作为样本的异常评分。