[发明专利]一种基于改进PQ算法的CBIR方法

说明书

本发明涉及一种基于改进PQ算法的CBIR方法，属于图像处理技术领域。通过改进深度卷积网络提取图像深度特征，然后通过采用非线性检索ANN搜索策略的基于倒排索引的乘积量化IVPQ算法的索引检索模块编码压缩图像特征数据，并生成基于Faiss框架的动态索引数据库的索引，通过特征向量编码对全索引库的数据空间进行分割，进行查询图片的检索时，通过汉明距离重排，快速锁定某一子空间再进行遍历，并输出检索图像。本发明基于Faiss框架实现了检索索引库的动态化，避免了实际应用场合为重建索引库产生的高昂运维成本。

技术领域

本发明属于图像处理领域，涉及一种基于改进PQ算法的CBIR方法。

背景技术

实际应用场景下，用户需要对海量的、无标签的、复杂未知的图像进行基于关键敏感图像库检索判断，实现“以图搜图”的功能。目前公认表示索引图像信息的最有效方式基于图像内容自身，故选用基于内容的图像检索(CBIR,Content Based Image Retrieval)方法进行大规模图像检索系统设计。

传统CBIR方法采用相似性度量的暴力检索(Brute-force)策略，暴力检索策略会随着图片特征索引数据的增加而加剧内存资源的耗费。特别是当实际应用场合的数据集规模达到几百个百万规模时，由于索引规模的增加，运行内存(RAM)占用得不到满足，从而导致检索性能会急剧降低，系统性能无法取得预期目标，硬件成本也会急剧增加。为此，主流的解决方法是采用近似最近邻(ANN,Approximate Nearest Neighbor)检索策略，其本质是通过对检索数据集的全空间进行分割成子空间，以某种方式快速锁定(几个)子空间集并进行遍历。

ANN主要分为KD树法、图索引量化法、哈希法、矢量量化法。对于常规的KD树算法而言，随着KD树的树深度越深，KD树法检索模型的性能表现越发欠佳；而将图引入ANN搜索的方法，以已经成熟应用的HNSW(Hierarchical Navigable Small World Graphs)算法为例，其召回率高、但索引内存占用大、独特的索引结构不利于数据的动态增删；对于哈希法而言，出现了多表局部敏感哈希(MLSH,Multiprobe Locality-Sensitive Hashing)这种通过构造多个哈希表，以达到生成划分空间域的多个哈希函数，以此提高大规模的高维数据集下查找准确率的改进哈希编码算法，但任然摆脱不了索引数据消耗大量内存空间的情况；对于矢量量化法而言，代表算法为已在工业领域非常实用流行的乘积量化(PQ,ProductQuantization)法，索引数据压缩性能较好，能有效地降低内存占用，但召回率较低。

此外，基于ANN检索策略的CBIR方法的索引数据库近年来多采用对于数据的动态增删目前还不支持的FALCONN或NMSLIB框架。对于小数据集和中型规模的数据集的检索算法与系统实现而言，这是可以接受的。但对于大规模检索，为满足实际应用场合的需要，CBIR系统在运行过程中需要对特定敏感图片数据进行索引的入库。否则，每次重新建立索引库需要高昂的运维成本与耗时。因此，对于实际应用场合中的CBIR系统的索引库应该是能够动态增减的。

发明内容

有鉴于此，本发明的目的在于提供一种基于改进PQ算法的CBIR方法。

为达到上述目的，本发明提供如下技术方案：

一种基于改进乘积量化PQ算法的基于内容的图像检索CBIR方法，通过改进深度卷积网络提取图像深度特征，然后通过采用非线性检索ANN搜索策略的基于倒排索引的乘积量化IVPQ算法的索引检索模块编码压缩图像特征数据，并生成基于Faiss框架的动态索引数据库的索引，通过特征向量编码对全索引库的数据空间进行分割，进行查询图片的检索时，通过汉明距离重排，快速锁定某一子空间再进行遍历，并输出检索图像。