第7章最小二乘估计的改进

第7章最小二乘估计的改进内容摘要：

 可知：kZ的特征根为mikii,2,1,  ( 5 ) 并且kZ与kW之间它们的特征向量与 XX  的特征向量相同，与k无关。 ( 6 ) 记：      )()(ˆ)(ˆ)(ˆ kHkkEkM S E        )(ˆ)(ˆ)( kkEkH          )(ˆ)(ˆ)(ˆ)(ˆ)(ˆ)(ˆ kEkEkEkkEkE )()( 21 krkr       miikDkEkkEkEkr11)(ˆ)(ˆ)(ˆ)(ˆ)(ˆ)(  即为岭估计各分量的方差和。      mikEkEkEkr122)(ˆ)(ˆ)(ˆ)(  即为岭估计各分量的偏倚平方 之和。 定理（岭估计的存在性定理）存在0k，使)0()( HkH  证明： 显然，只要证明)( kH在0k处的导数0)0( H即可。 由于)()()( 21 krkrkH ，故下面分别计算)(),( 21 krkr 。      2)(ˆ)(ˆ)(ˆ)(ˆ)(kEkkEkM SEkH    )(ˆ)(ˆ)(ˆ)(ˆ)(1 kEkkEkEkr      kkkkZZZZE  ˆˆ      ˆˆkkZZE      XXXZZXXXE kk   11     EXXXZZXXXtrkk11   kkZZXXtr 12       12kkt r X X X X W I k W  22 kk kWWtr      miimi i kkk121211    miiik122 从而有： 02)(1321 miiikkr 若记2kW的特征向量为列的矩阵为Q ，记以其特征根为对角元的对角阵为U，从而有：UW k 2      )(ˆ)(ˆ)(2kEkEkr     kkZZ    kkZ I Z I    22kWk  Uk 2  Uk  2 222miiikk 其中： mQ  ,21与k无关。    222211000000000000100001kkkUm 从而有     2 2 2 22 2 3 31 1 1( ) 2 2 2 0m m mi i i ii i ii i ikkr k kk k k                02)0()0()0(12221  miirrH  由)( kH的连续性可知，在零的一个邻域内，存在 0k 使)0()( HkH 。 K的选择 在实际中， k 的值的选取是一个十分重要的问题，因而引起了不少人的研究，近年来提出了许多确定 k 的原则和方法。 下面给出几个常用的选择方法，各有优点和缺点，目前还尚未找到确定 k 的最好方法。 方法一 、选择一个较小的 k 值， 且 使对应的回归方程中的回归系数不再具有不合理的符号及不理想的绝对值。 方法二 、由于)(ˆ k在减小均方误差的同时增大了残差平方和，从而可以给定一个 c 值（一般 1c ）使：         ˆˆ)(ˆ)(ˆ XYXYckXYkXY  成立的最大的 k 值。 方法三 、在同一个直角坐标系中画出 m。