如何评价估计器的好坏?
μ^=N1i=1∑Nxi
已知均值
R^=N1i=1∑N(xi−μx)(xi−μx)H
未知均值
R^=N−11i=1∑N(xi−μ^x)(xi−μ^x)H
E[∣∣A^−A∣∣2]=E[eHe]=trE[eHe]=trM
$ M=E[ee^H] $ 称为均方误差矩阵,可对其进行进一步分解
令 $ b = \mu _e $ :
Re=E[(e−μe)(e−μe)H]=M−bbH
因此 $ M = R_e + bb^H $ ,可视为协方差和偏差的加权,当估计器为无偏估计时,
最小方差估计器不一定是无偏的,因此存在最小均方误差估计和最小方差无偏估计两种不同的准则
对于$ y=Hx+n $ 现有问题:
WH=(HHRnn−1H)−1HHRnn−1x^=WHy=(HHRnn−1H)−1HHRnn−1yRx^x^=WHRnnW=(HHRnn−1H)−1HHRnn−1⋅Rnn⋅Rnn−1H(HHRnn−1H)−1=(HHRnn−1H)−1
以下是例题:
例: $ y=Hx+n $ ,对于上述线性模型,在满足线性运算的条件下寻找最小方差无偏估计,结果称为minimum variance distortionless response (MVDR) ,也称作best linear unbiased estimator (BLUE):
解:
假设线性条件: $ \hat x = W^H y $
则无偏性条件:
E[x^]=E[WHy]=E[WH(Hx+n)]=E[WHHx+WHn]=WHHx+WHE(n)=WHHx=xWHH=I
最小化方差:
E[∣∣x^−x∣∣2]=trE[(x^−x)(x^−x)H]=trRx^x^=tr{WHRyyW}=tr{WHRnnW}
则原问题变成了MVDR优化现有问题:
Wmin tr{WHRnnW}s.t.WHH=I
首先构造拉格朗日函数:
L=tr(WTRnnW)−i,j∑λij[(WTH−I)]ji=tr(WTRnnW)−tr[Λ(WTH−I)]
对W求偏导
∂W∂tr(WTRmnW)=2RmW∂W∂(ΛWTH)=∂W∂tr(WTHΛ)=HΛ⇒∂W∂L=2RmnW−HΛ=0⇒W=21Rmn−1HΛ
由约束条件得:
WTH=21ΛTHTRnn−1H=I⇒ΛT=2(HTRnn−1H)−1
解得
WT=(HTRnn−1H)−1HTRnn−1
对于复数情形
WH=(HHRnn−1H)−1HHRnn−1
因此,MVDR估计为:
x^=WHy=(HHRnn−1H)−1HHRnn−1y
MVDR估计的协方差矩阵
Rx^x^=WHRnnW=(HHRnn−1H)−1HHRnn−1⋅Rnn⋅Rnn−1H(HHRnn−1H)−1=(HHRnn−1H)−1
例: $ y=sA+n $ ,其中s为已知实信号, A为待估计幅度,n为噪声,其协方差矩阵为 $ R_{nn} $ ,试设计MVDR估计并优化s,在满足总功率限制的条件下使得的估计误差最小化
解:首先将信号模型写成矩阵的形式
y=sA+n⇒y=Hx+nH=s,A=x
计算权值
WT=(HTRnn−1H)−1HTRnn−1=(sTRnn−1s)−1sTRnn−1=sTRnn−1s1sTRnn−1
由此可得MVDR估计
A^=x^=WTy=sTRnn−1s1sTRnn−1y
要使得估计误差最小化,即最小化方差,即最小化MSE
tr(Rxx)=tr[(HTRnn−1H)−1]=sTRnn−1s1
最小化方差等同于最大化分母 ,考虑 $ R_{nn} $ 的EVD分解
Rnn=VΛVT
同时将s表示为 $ R_{nn} $ 特征向量的加权
s=Vα
所以:
sTRnn−1s=αTVTVΛ−1VTVα=αTΛ−1α=i=1∑Nλi∣αi∣2
考虑功率约束
E=k=1∑Nsk2=∥s∥2=sTs
由于 $ s=V\alpha $ :
sTs=αTVTVα=αTα=∥α∥2=i=1∑Nαi2
为最大化 $ \mathbf{s}T\mathbf{R}_{nn}\mathbf{s} = \sum_{i\operatorname{=}1}N\frac{|\alpha_i|2}{\lambda_i} $ ,应将能量分配到较小的 $ \lambda _i $ 上,因此最佳方案为
αi2={0,E,i=1,...,N−1,i=N,
此时 $ \mathbf{s}=\sqrt{\mathcal{E}}\mathbf{v}{\min} $,对应于 $ R $ 最小特征根对应的特征向量