[发明专利]一种可分离二维FIR滤波器的系数量化方法

说明书

本发明提供一种可分离二维FIR滤波器的系数量化方法。本发明不同于普通的量化方法，而是以最大纹波误差最小化(l_∞范数)为目标函数，采用分步式整数规划算法求解。首先利用一部分已知的连续函数系数，采用整数规划算法求解其余部分量化整数系数，然后利用求解出的这一部分量化系数再次采用整数规划算法求解原来部分的量化系数，最终获得全部量化系数。本发明的优点是有效减少了可分离二维FIR滤波器的系数量化误差，降低了有限字长效应，提高滤波器性能指标，获得具有最优有限字长属性的可分离二维FIR滤波器。

技术领域

本发明属于数字信号处理技术领域，具体涉及一种具有最优有限字长属性的可分离二维FIR滤波器的量化方法。

背景技术

二维FIR数字滤波器作为二维数字信号处理的重要组成部分，已经被广泛应用于医学图像处理、卫星图像处理、雷达、声纳以及地震信号处理等很多方面，而拥有较低复杂度的可分离二维FIR数字滤波器也有着广泛的应用。

在滤波器设计与硬件实现过程中，滤波器存在系数量化误差和运算误差。实际的数字滤波器是由有限精度的数字和算法实现，因此对于滤波器的系数以及信号的输入输出都需要通过有限数量的比特来量化，并且随着比特数的增加，硬件系统的存储和计算负担会急剧增加，所以需要尽可能减少比特位数，这就造成了滤波器有限字长效应问题。有限位的滤波器系数会影响滤波器零极点的位置，造成滤波的不稳定性，导致实际滤波器的频率响应与所设计的理想频率响应有着细微的差别，这就是所谓的系数量化误差，而这种误差在某种程度上会影响滤波器的滤波性能。

在可分离二维FIR滤波器结构中，由多个并联结构的级联一维FIR滤波器构成，这种非线性的滤波器结构更增加了系数量化误差的不确定性。一些适用于一维FIR滤波器的系数量化方法，如果直接使用在这种滤波器结构上，很可能造成不理想的有限字长效应。因此，需要对设计出的可分离二维FIR稀疏滤波器进行系数量化研究，寻找出适用于此滤波器结构的量化方法，得到具有最优有限字长效应的可分离二维FIR滤波器。

发明内容

本发明针对现有技术的不足。提供一种可分离二维FIR滤波器的系数量化方法。

本发明一种可分离二维FIR滤波器的系数量化方法，该方法具体如下：

步骤一、根据设计要求，确定滤波器的基本参数，包括二维FIR滤波器的类型、阶数N²、频率点数Γ，通带截止频率ω_p，阻带截止频率ω_s，设计出可分离的二维FIR滤波器原型，称之为原型滤波器。

设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)。

其中列向量r_i和s_i是一维FIR子滤波器的脉冲响应，r_i尺寸大小为2·N₁+1，s_i尺寸大小为2·N₂+1，其中N₁＝N₂＝(N-1)/2，K是并行结构的数量。为保证滤波器是线性相位，这些列向量满足中心对称或者反中心对称，所以只需要考虑r_i和s_i列向量中的一半元素，分别记为

r_{i_half}＝[r_i(N₁+1) r_i(N₁+2) … r_i(2·N₁+1)]^T (2)