[发明专利]基于观察学习的入侵检测方法

说明书

技术领域

本发明属于模式识别和机器学习技术领域，涉及基于观察学习的入侵检测方法，具体是一种基于观察学习的入侵检测方法，可用于在只有少量有标记数据的情况下进一步提高检测系统的识别率。所提出的入侵检测方法可扩展用于标记数据较少而未标记数据较多的应用领域，诸如医学图像处理、网页分类、遥感图象处理、人脸识别等。

背景技术

在现实世界中，有很多问题都需要获取大量的有标记数据去训练高精度的分类器，但有标记数据的获取却是非常困难的，甚至要消耗大量的人力物力。然而随着数据收集和存储技术的飞速发展，未标记数据的获取变得相当容易。这种情况在入侵监测、医学图像处理、网页分类、遥感图象处理、人脸识别等领域都有体现。因此，在有标记数据较少时，如何利用大量的未标记数据来改善学习性能已成为当前机器学习和模式识别领域最受关注的问题之一。半监督学习就是针对拥有少量标记数据和大量未标记数据情形的一种学习策略。

当前，针对半监督学习问题，已经提出了许多方法。但是，正像一般机器学习问题一样，半监督学习也存在“选择优越性”问题，即每一种方法在某些领域中表现出较好的性能，但不会在所有领域都好。由此，产生了一个两难问题：对于某一应用任务，究竟应该采用哪种方法？若要选取性能最好的算法，过程冗长烦闷；若想要选取过程简单，选出的算法性能又不一定最好。

社会学习理论是二十世纪六十年代兴起的一种理论，其创始人是美国新行为主义心理学家阿伯特·班杜拉(Albert.Bandura)。社会学习理论是阐明人怎样在社会环境中学习，从而形成和发展其个性的理论。班杜拉将社会学习分为直接学习和观察学习两种形式。仅通过直接学习进行的学习是非常缓慢而费力的，有时还要付出很大代价，实际上人类大部分行为是通过观察学习获得的。

观察学习是指人们通过观察别人(榜样)的行为从而学会某种行为，又称替代学习、模仿学习。班杜拉认为，人的一切社会学行为都是在社会环境的影响下，通过对他人示范行为及其结果的观察学习而形成的，此过程不必直接做出行为，也不需亲身体验强化，可提高学习效率。观察学习通过对他人的行为及其强化性结果的观察，个体获得某些新的反应，或已有的行为反应特点得到修正。

观察学习算法OLA(Observational Learning Algorithm)是训练步骤(T-step)和观察步骤(O-step)交替进行的学习算法。在T-step时，用数据集训练拥有一组学习器的集成系统。在O-step时，生成“虚拟”数据，其中每个未标记目标数据的标记信息通过观察其他成员的输出来确定。随后将这些虚拟数据加入训练数据集重新进行自训练，训练和观察这两个步骤如此循环下去，直至满足终止条件。虚拟数据担任调整员的角色并拥有附属信息，该附属信息可看成是从集成系统中提取的目标函数。

在OLA算法中，有以下两个特点：

1)在没有任何外力帮助下，OLA算法在学习过程中让每个网络生成自己的虚拟数据，并且使用虚拟数据和原始的数据集一起训练网络。通过重复运行观察和训练步骤，可以改善集成系统的预测表现。受社会学习理论的激发，OLA让成员网络通过虚拟数据来进行信息交换。

2)OLA对于噪声不敏感，且平衡了平均多样性和个体网络的平均误差。通过采取放回抽样技术来改变训练数据，得到集成的高多样性。同时，因为个体网络使用了虚拟数据，从而拥有较低的性能误差。

虽然OLA算法有以上所提到的优点，但至今没人将其应用于入侵检测系统中。

入侵检测从本质上属于分类问题。基于这种思想，人们提出了许多入侵检测方法，但是，已有方法大都存在不同程度的缺陷，如误报率高、漏报率高等，且大多并未有效利用大量存在的未标记数据数据，而单纯的观察学习也同样存在这样的问题。

发明内容

本发明的目的在于克服现有入侵检测技术中的不足，提出一种基于观察学习的入侵检测方法，采用了观察学习与半监督集成学习相结合，提高了对标记信息的利用率，在少量标记数据的约束下也能够得到高的识别率。

本发明是一种基于观察学习的入侵检测方法，即基于SSELOLA(Semi-Supervised Ensemble Learning Based Observational Learning Algorithm)的入侵检测方法。

为了实现发明目的，本发明的技术方案是：采用观察学习算法并结合半监督集成学习方法提高入侵检测性能，操作步骤包括：