[发明专利]数据处理方法、装置、设备及计算机可读存储介质在审
| 申请号: | 202010680761.1 | 申请日: | 2020-07-15 |
| 公开(公告)号: | CN111967573A | 公开(公告)日: | 2020-11-20 |
| 发明(设计)人: | 陈世峰;张志伟 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N20/10 |
| 代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 张全文 |
| 地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 设备 计算机 可读 存储 介质 | ||
本申请属于数据处理领域,提供了一种数据处理方法,包括:获取待训练的学生生成对抗网络,以及获取教师生成对抗网络;固定所述教师生成对抗网络的参数,根据固定参数的教师生成对抗网络,指导所述学生生成对抗网络进行学习;根据教师生成对抗网络的损失函数,以及教师生成对抗网络与学生生成对抗网络之间的蒸馏损失,对学习后的学生生成对抗网络进行训练,得到训练后的学生生成对抗网络;根据训练后的学生生成对抗网络处理待处理数据。使得较小规模的学生生成对抗网络有效的压缩计算量,具有较快的响应速度和较佳的准确度,有利于提升网络的数据处理的性能。
技术领域
本申请属于数据处理领域,尤其涉及数据的异常检测方法、装置、设备及计算机可读存储介质。
背景技术
异常检测是一种用于识别出与预期正常样本不符的异常样本的检测技术。异常检测技术已被广泛应用于网络入侵、信用卡欺诈、医疗诊断和工业缺陷检测等领域。
目前,常用的异常检测的方法可以分为两类:一类是基于传统的机器学习方法进行异常检测。传统的机器学习方法包括单类支持向量机(英文全称为One-classSVM,英文简称为OS-SVM)、核密度估计(英文全称为Kernel Density Estimation,英文简称为KDE)、主成分分析(英文全称为Principal Component Analysis,英文简称为PCA)等;另一类是基于深度学习的方法进行异常检测。包括深度信念网络(英文全称为Deep Belief Network,英文简称为DBN)、自编码器(英文全称为Auto-Encoder,英文简称为AE)和生成对抗网络(英文全称为Generative Adversarial Network,英文简称为GAN)等。由于生成对抗网络在建模复杂的高维图像分布方面具有巨大优势,因此许多基于对抗生成网络的方法已被用于异常检测问题。但是,目前的生成对抗网络的很难进一步提升对数据进行异常检测的性能。
发明内容
有鉴于此,本申请实施例提供了一种数据处理方法、装置、设备及计算机可读存储介质,以解决现有技术中的生成对抗网络难以提升对数据进行异常检测的性能的问题。
本申请实施例的第一方面提供了一种数据处理方法,所述数据处理方法包括:
获取待训练的学生生成对抗网络,以及获取教师生成对抗网络;
固定所述教师生成对抗网络的参数,根据固定参数的教师生成对抗网络,指导所述学生生成对抗网络进行学习;
根据教师生成对抗网络的损失函数,以及教师生成对抗网络与学生生成对抗网络之间的蒸馏损失,对学习后的学生生成对抗网络进行训练,得到训练后的学生生成对抗网络;
根据训练后的学生生成对抗网络处理待处理数据。
结合第一方面,在第一方面的第一种可能实现方式中,所述根据固定参数的教师生成对抗网络,指导所述学生生成对抗网络进行学习,包括:
通过最小化学生生成对抗网络的损失函数,以及最小化蒸馏损失,对所述学生生成对抗网络进行学习,其中,所述蒸馏损失为教师生成网络通过知识蒸馏得到学生生成对抗网络时所产生的损失。
结合第一方面的第一种可能实现方式,在第一方面的第二种可能实现方式中,在对所述学生生成对抗网络进行学习之前,所述方法还包括:
通过学生生成对抗网络和教师生成对抗网络的中间层的潜在向量之间的距离,以及学生生成对抗网络和教师生成对抗网络的重建图像之间的距离,确定所述蒸馏损失。
结合第一方面的第二种可能实现方式,在第一方面的第三种可能实现方式中,所述通过学生生成对抗网络和教师生成对抗网络的中间层的潜在向量之间的距离,以及学生生成对抗网络和教师生成对抗网络的重建图像之间的距离,确定所述蒸馏损失,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010680761.1/2.html,转载请声明来源钻瓜专利网。





