[发明专利]电网安全分析机器学习模型测试方法、装置、设备及介质

说明书

本发明的目的在于提供一种电网安全分析机器学习模型测试方法、装置、设备及介质，方法包括：获取电网运行的故障样本集，故障样本集包括作为电网安全分析机器学习模型输入的原始样本；对原始样本施加扰动，生成第一对抗样本；以第一对抗样本与原始原本的差距最小为目标，以电网安全分析机器学习模型输出错误分类结果为约束条件，对第一对抗样本进行迭代寻优，得到最终攻击样本；将最终攻击样本输入电网安全分析机器学习模型中，获得第一分类结果；将第一分类结果与正确结果比较，得到测试结果。通过自动生成对抗攻击样本输入至模型，测试模型决策的鲁棒性和安全性，量化评估对抗样本攻击效果，发现模型决策风险，提升了模型应用安全性。

技术领域

本发明属于大电网智能分析模型的安全领域，具体涉及一种电网安全分析机器学习模型 测试方法、装置、设备及介质。

背景技术

随着人工智能技术的不断发展和应用，其在电力系统的管理和控制方面起到十分重要的 作用。对电力系统的运行控制主要是为了能够提供高质量的电能，就需要对电力系统进行规 划和监测，而且随着电力系统规模的不断增大，电力系统管理控制的难度越来越大。人工神 经网络、模糊集理论、深度学习等人工智能技术在电力系统中被有效应用，而且人工智能技 术在电力系统的应用中呈现较好的发展趋势。

然而，人工智能在电力系统分析控制中的应用安全问题不容忽视，尤其当遭受到不易察 觉的数据或模型攻击时，可能会导致人工智能模型的输出结果有很大偏差，威胁到电网运行 决策安全。

发明内容

本发明的目的在于提供一种电网安全分析机器学习模型测试方法、装置、设备及介质， 以解决现有技术中，当电力系统中的人工智能遭受到不易察觉的数据或模型攻击时，可能会 导致人工智能模型的输出结果有很大偏差的问题。

为了实现上述目的，本发明采用如下技术方案：

本发明的第一个方面，提供了一种电网安全分析机器学习模型测试方法，包括如下步骤：

获取电网运行的故障样本集，其中，所述故障样本集至少包括作为电网安全分析机器学 习模型输入的原始样本；

对所述原始样本施加扰动，生成第一对抗样本；

以所述第一对抗样本与所述原始原本的差距最小为目标，以所述电网安全分析机器学习 模型输出错误分类结果为约束条件，对所述第一对抗样本进行迭代寻优，得到最终攻击样本；

将所述最终攻击样本输入所述电网安全分析机器学习模型中，获得第一分类结果；

将所述第一分类结果与正确结果比较，得到所述电网安全分析机器学习模型的测试结果。

作为本发明可选的技术方案，所述获取电网运行的故障样本集的步骤，具体包括：

设定电网运行方式、故障条件，仿真生成故障样本；其中，所述故障样本的样本特征为 与电网安全相关的电气量，标签为故障后电网是否稳定；

对所述故障样本进行归一化处理，得到故障样本集。

作为本发明可选的技术方案，所述仿真生成故障样本的步骤之后，若所述故障样本中的 第一类别的样本数量低于设定阈值，则利用SMOTE方法，生成新的第一类别的样本。

作为本发明可选的技术方案，所述电网安全分析机器学习模型的结构包括：一个输入层、 三个全连接层、一个Dropout层和一个输出层，其中，每两个所述全连接层之间设置一个BN 层。

作为本发明可选的技术方案，所述对所述第一对抗样本进行迭代寻优的步骤中，采用 Adam方法对所述第一对抗样本进行迭代寻优。

作为本发明可选的技术方案，所述以所述第一对抗样本与所述原始原本的差距最小为目 标的步骤中，目标函数如下：