e(n)=d(n)-y(n) (2—4)
自适应滤波器就是根据误差序列8(行)按照某种准则和算法对其系数w(n)进行调整，最终使自适应滤波器的目标(代价)函数达到最小，即最佳滤波状态。按照均方误差(MSE)准则所定义的目标函数是
F(e(n))=ξ(n)=E[e2(n)=E[d2(n)-2d(n)y(n)+y2(n)] (2-5)
将式(2—3)代入上式，得到
ξ(n)=E[d2(n)-2E[d(n)wT(n)x(n)] +E[wT(n)x(n)xT(n)w(n)] (2-6) 固定滤波器系数，则目标函数(2．6)可写为 ξ(n)= ξ=E[d2(n)]-2wT p+wT w (2．7)
T
式中，R=E[x(n)x (n)是输入信号的自相关矩阵； P=E[d(n)x(n)]是期望信号与输入信号的互相关矢量。
假设输入自相关矩阵R为非奇异的，当R与P均已知时，将式(2．7)对W 求导数，并令其等于零，可得到使目标函数最小的最佳滤波参数W。为
W。=R-1P (2-8)
这个解称为维纳解，即最佳滤波参数值。从式(2．7)可以看出，自适应滤波器的目标函数是滤波参数W的二次函数，因此形成了一个多维的超抛物曲面，二维时好像是一个碗状的曲面且具有唯一的碗底最小点。这个多维的超抛物曲面通常称之为自适应滤波器的误差性能曲面。位于该曲面上的某一点，经过自适应调节过程，可以朝碗底最小方向移动，最终到达最小点。最速下降法就是实现这种从初始值到最佳值搜索的一种优化技术，它利用梯度信息分析白适应滤波性能和最佳滤波状态，避免了对输入信号自相关矩阵R直接求逆。可以想象，沿着ξ减小的方向调整权值W，应该可以找到最佳值W。，因为梯度的方向是{增长最快的方向，所以负的梯度方向就是ξ减少最快的方向，这样，就可以采用如下的递推公式来调整W以寻找W。：
(2-9)
式中，▽(n)代表珂时刻孝的梯度，是一个M×1维的矢量，这里M为滤波器滤波权系数的数目；u是一个正实常数，通常被称为步长或步长因子。根据梯度定义，▽(n)可以写成：
将式(2．7)对W取偏导，可以得到：
将式(2—11)代入式(2-9)可得到最速下降法的递推公式:
有关最速下降法的收敛性，这里只给出其结果。当最速下降法满足下面条件时是收敛的： 0<μ<λmax 式中，λ
max
是自相关矩阵R的最大特征根
。
5
2．1．2最小均方算法
如上节所述，要使用最速下降法，就要知道均方误差性能函数的梯度的精确值，见式(2—11)，这就要求输入信号x(n)和期望信号d(n)平稳，并且要求它们的二阶统计特性已知。而这是相当复杂的，很多情况下它们是未知的或不完全知道的，因此一般采用梯度的估计值▽(n)来代替梯度▽(n)，即
―
最小均方(LMS)算法就是使用瞬时输出误差功率的梯度▽ E[e2(n)]作为 均方误差梯度▽ E[e2(n)]的估计值，也就是令
将式(2—15)代入式(2-14)，有
―
―
式(2．16)就是LMS算法的递推公式。
自适应LMS算法简单，既不需要计算输入信号的相关函数，又不需要 求矩阵的逆，因而得到了广泛应用。但是，由于LMS算法采用梯度矢量的 瞬时估计，它有很大的方差，以至不能获得最优滤波性能。下面给出完整 的算法步骤：
有关参量：M——滤波器抽头数；
μ——步长；0<μ<(MPin)-1，Pin=E[x1(n)]2 初始条件：w(O)=0或者由先验知识确定 计算步骤：对于H=1,2，? (1)取x(n)，d(n)
(2)滤波y(n)=WT(n)x(n)
(3)估计误差e(n)=d(n)-y(n)
(4)更新权向量w(H+1)=w(n)+μe(n)x(n)
当滤波器的输入信号为有色随机过程时，特别是输入信号为高度相关的情况，大多数自适应滤波算法的收敛速度都要下降，对于上述典型LMS算法。此问题更加突出。为了提高收敛速度，相继提出了多种改进的算法。下面给出几种改进的权值递推公式：
(1)归一化LMS算法：
式中，0<μ<1为控制失调的固定收敛因子；γ是为了避免X(n)x(n)过小而导致步长值太大而设置的正常数。
T
6
(2)简化的LMS算法：
(3)MLMS算法：
以上这几种改进LMS算法中，前两种都是交步长方法，后一种采用的是改变梯度估值的方法。除了这几种方法以外，还有很多改进的算法，比如变换域LMS算法，该算法适用于输入信号具有高度相关性的情况下；频域LMS算法，该算法与经典梯度下降法相比较有着更好的收敛性；分块LMS算法，与其它方法相比该算法计算量大为减少；最小高阶均方(LMK)算法，该算法是LMS算法的扩展，或者说LMS算法是该算法的特例，当系统噪声为非高斯分布时，LMK算法要比LMS算法收敛精度高；QR分解LMS算法，该算法适用于横向延迟线抽头数目比较小的情况。其它方法这里不再列举。
2．2递归最小二乘自适应滤波器
最小二乘(LS)法是一种典型的有效的数据处理方法，既可用于静态系统，又可用于动态系统：既可用于线性系统，又可用于非线性系统；既可用于离线估计，又可用于在线估计。递归最小二乘(Recursive Least Square简写RLS)是最小乘法的一种快速算法，它包含时间递归最小二乘(TRLS)算法和阶数递归最小二乘(ORES)算法两方面内容，一般前者适用于动态系统辨识和在线估计，后者适用于静态系统辨识和离线估计。与LMS算法相比，RLS算法有着非常快的收敛速度。
7
图2-2自适应RLS算法
采用RLS算法的自适应滤波器如图2-2所示。输入信号{x(n)}，含有N个已知样本{x(1), x(2), x(3)…x(N)}，期望输出为{d(n)}={d(1)，d(2)，…，d(N))。滤波器输出为
M为滤波器长度，且M≤N。 误差信号为
e(n)=d(n)-y(n) (2-23)
按照最小平方准则，设计滤波器目标函数为
将式(2-22)代入式(2—24)得到
定义如下参量：
为确定性自相关函数，表示输入信号在抽头k与抽头m之间两信号的相关性：
8
为确定性互相关函数，表示期望响应与在抽头K输入信号之间的互相关性:
为期望响应序列的能量。
将式(2-26)～(2-28)代入式(2．25)，目标函数可写为
因此有
令式(2-30)等于零，得到
把它简化成矩阵形式，有
式中，w(n)为M×1维最小平方估计的滤波器系数矢量，即
Ф(n)为延迟线抽头输入信号的确定性自相关函数，是一个M×M维矩阵即
θ(n)为脉冲响应序列与输入信号之间的确定性互相关函数M×1维矢量，即
9