[发明专利]一种基于聚类过滤的特征检索系统及其应用方法

说明书

本发明属于视频侦查技术领域，具体涉及一种基于聚类过滤的特征检索系统及其应用方法，本发明通过应用成熟的目标聚类算法，如人员聚类、车辆聚类等，把海量的目标特征库进行特征分组。在进行特征检索时按照聚类的类别进行目标特征过滤，减少不必要的特征内存访问，提高特征检索效率。其次通过目标特征检索的分布式系统，解决海量特征数据加载慢、特征数据不一致以及目标特征重新聚类等一系列问题。

技术领域

本发明属于视频侦查技术领域，具体涉及一种基于聚类过滤的特征检索系统及其应用方法。

背景技术

目前，随着深度学习在视频识别领域的广泛应用，视频识别技术取得了很大的进步，比如人脸识别、车牌识别的准确率都高达99％以上，因此政府、公安、金融等行业越来越多地应用人脸识别、行人再识别以及车牌识别等技术，视频识别领域的人工智能市场也越来越活跃。特别地，随着近年来大量平安城市、智慧城市项目的相继落地，也产生了海量的视频结构化特征数据，为后续的特征检索提供了数据基础。其中如何快速地在海量的视频结构化数据中找到视频中出现的相关目标已经成为安防领域急需解决的问题。

现有技术方案1：采用开源的Elastic Search搜索引擎，考虑使用检索条件过滤特征数据后形成目标特征库，再用待搜索的特征跟特征库做1:N检索。主要流程如下：把经过预处理的结构化特征数据存储在Elastic Search Node，存储信息包括时间戳、摄像机通道，其中Elastic Search Cluster保证Node节点的特征数据均衡；设有Elastic Search查询节点，负责接收客户端的特征检索请求，并检索请求分发Elastic Search Node；ElasticSearch Node接收到检索请求后，按照检索条件从服务器磁盘读取特征数据，形成目标特征库。然后使用特征比对算法计算待检索特征与所有目标特征库特征的相似度，并返回TopN给Elastic Search的查询节点；Elastic Search查询节点汇总所有Node的TopN结果，并完成相似度的排序和取TopN操作，最后把最终返回给客户端。

现有技术方案2：基于内存技术的分布式检索方案，把热点特征数据全部储存在服务器内存中，直接把待搜索的特征跟内存中所有目标特征库进行1:N检索，主要流程如下：设有Node节点，负责启动时从数据库拉取属于本节点的目标特征数据并存储在服务器内存中，形成本节点的目标特征库；Node在运行过程中定时从数据库增量查询新增的目标特征，保存服务器内存中，也定时从内存特征库上删除过期的特征数据；设有Cluster，负责分发检索请求与汇总Node节点的TopN结果；Cluster接收到特征检索请求，把请求分发给所有Node节点。Node节点按照检索条件遍历目标特征库，并输出TopN结果；Cluster节点合并所有Node的TopN结果并完成相似度排序，最终输出TopN给客户端。

现有技术方案3：采用GPU技术的检索方案，主要的业务流程和基于内存技术的分布式检索方案一致，不同点是目标特征数据是存储在GPU的显存中，而不是服务器的内存。该方案是利用GPU的强大浮点运行能力和高并发计算能力，能大大提高特征比对的速度，从而提高海量特征数据的检索效率。

现有技术方案1的缺点：该方案采用了开源的ES(Elastic Search)搜索引擎，首先ES没有提供检索后再服务端对TopN结果进行二次处理的接口，需要修改源码。其次，特征检索的目标特征库往往是百万级别以上，若这些特征数据不在系统缓存中，就需要到磁盘读取数据，IO消耗严重，影响特征检索的效率。最后，ES运维比较麻烦，内存ES集群异常恢复需要读取大量特征数据，严重拖慢ES性能。

现有技术方案2的缺点：该方案采用了基于内存技术的分布式检索，首先该方案受限制于服务器总线带宽与内存带宽的访问速度。因为该技术方案需要遍历内存中的全部目标特征数据，再根据过滤条件选择目标特征进行特征比对。其次，方案分布式框架较为简单，没有很多好解决特征数据同步、一致性等问题。