第三章：统计信号估计

第三章：统计信号估计内容摘要：

NN    2222221ˆ1 ˆbnnn M LENEN       信号检测与估值 2017年春季 37 ML估计的不变性 若 是一对一变换，有 ……………. 是一对 J(J1)变换，  g () ˆˆ gM L M L x      g  ˆˆ M L M Lg ( | ) |。 1 , . . . ,jp x p x j J     | m a x | , 1 , . . . ,ˆ a r g m a x |jMLp x p x j Jpx信号检测与估值 2017年春季 38 例 2 同例 1，求 的 ML估计  e xp信号检测与估值 2017年春季 39      222 2e x p21nknkxxp        Nk nknNkkxxpp12221 2e x p21x由题设，可知，给定 条件下，观测信号 xk是均值为 ，方差为 的高斯 随机变量   2n由于 是 的一对一变换，即是单调函数，因此可得 解：   exp       Nk nknxp1222 2lne x p21x信号检测与估值 2017年春季 40  mlNkkml xN  ˆe x p1e x pˆ1 所以最大似然估计量为     Nk nkxp 1 222lnln x   12ln221 nNkkx由最大似然估计原理，得最大似然估计量为满足以下方程的解。   0lnˆ mlpx信号检测与估值 2017年春季 41 估计量的性质：无偏性 非随机变量 无偏估计 有偏估计 已知偏差的有偏估计 为无偏估计    ˆ ˆE p d b         xx  ˆi f 0 , . . ,b i e E    if 0b   i f 0bb ˆ b信号检测与估值 2017年春季 42 估计量的性质：无偏性 随机变量 无偏估计 有偏估计 渐近无偏估计  ˆi f EE  ˆ ˆ ,E p d d         xx ˆi f EE    1 , RVˆl im , R VNN Ex E    非信号检测与估值 2017年春季 43 有效性 对于被估计量 的任意无偏估计 和 ，若估计的均方误差 1ˆ 2ˆ则称估计量 比 更有效。 1ˆ 2ˆ如果 的无偏估计量 小于其他任意无偏估计量的均方误差，则称该估计量为最小均方误差估计量。  ˆ问题：能否确定一个均方误差的下界。    2212EE           信号检测与估值 2017年春季 44 一致性 则称估计量 是一致收敛的估计量。 假设根据 N次观测量构造的估计量为  Nxˆ若  Nxˆ   0ˆlim 2   NNE x则称估计量 是均方一致收敛的估计量。 若  Nxˆ ˆl i m 0NN P      x信号检测与估值 2017年春季 45 充分性 若被估计量 的估计量为 ， x是观测量。 如果以 为参量的似然函数 能够表示为： 则称 为充分估计量。 其中， 是通过 才与 x有关的函数，并且以 为参量。 有效估计量必然是充分估计量  ˆ()xˆ( | ) ( ( ) | ) ( ) , ( ) 0p x g x h x h x  ( | )pxˆ()xˆ( ( ) | )gx ˆ()x 信号检测与估值 2017年春季 46 CramerRao界 ：非 RV 非 RV情况：设 是非随机参量 的无偏估计，则有 当且仅当对任意的 和 x，均满足 时，不等式取等号。 ˆ    22 2211ˆ ˆlnlnV a r EppEE               xx      kp ˆln  x信号检测与估值 2017年春季 47 证明 设 是非随机参量 的无偏估计，则有 ˆ对上式求偏导， 得        0ˆˆ    xx dpE     xx dpˆ      xxxx dpdp    ˆ0ˆE  信号检测与估值 2017年春季 48 证明     xx dpˆ      xxxx dpdp    ˆ0  1 xx dp          xxx ppp  ln上式改写为       1lnˆ  xxx dpp        1lnˆ2xxxdpp信号检测与估值 2017年春季 49 证明 根据柯西 施瓦滋不等式              2 22 w x g x h x d x w x g x d x w x h x d x       当且仅当 时，上式等号成立。    xkhxg    xx pw      xx pg ln    ˆxh信号检测与估值 2017年春季 50 证明       2lnˆ1   xxx dpp          xxxxx dppdp    22 lnˆ    22 lnˆxpEE   22ln1ˆxpEE等号成立条件      xx hkg      ˆln  kp x信号检测与估值 2017年春季 51 证明 克拉美 罗不等式的另一种形式   1 xx dp   0xx dp       xxx dpp    ln求偏导 再求一次偏导        xxxxxxdppdpp 222 lnln   222 lnln xx pEpE        xxxxxx dppdpp  lnln220信号检测与估值 2017年春季 52 证明 克拉美 罗不等式的另一种形式    222 lnln xx pEpE所以       222ln1ˆˆxpEEV a r信号检测与估值 2017年春季 53 Remarks 非随机参量情况下的克拉美 罗不等式的含义和用途    222 ln1ln1 xx pEpE(1) 非随机参量 的任意无偏估计量 的方差 ，即均方误差恒不小于  ˆ(2) 若非随机参量 的无偏估计量 满足 ˆ       kp ˆln  x则估计量的方差 取到最小值，即取到克拉美 罗界。     2ˆˆ  EVa rˆVar 信号检测与估值 2017年春季 54 Remarks (3) 若非随机参量 的无偏估计量 满足  ˆ        kp ˆln  x      2ˆˆ  EVa r则无偏估计量 是有效的，否则是无效的。 ˆ(4) 若非随机参量 的无偏估计量 是有效的，则估计量的方差，即均方误差可由克拉美 罗界取得。  ˆ   2。