广义均方误差标准下双类估计优于最小二乘估计的充分条件

关键词： 线性 均值 未知 向量

考虑线性模型

这里Y是n×1观察向量;X是n×p设计阵, 其秩为p;β= (β1, β2, …, βp) T是p×1未知参数向量;e是n×1随机误差向量, 其分布服从均值为0协方差阵为σ21的多元正态分布。为估计β和σ, 我们常常定义它们的最小二乘估计为

并以此作为β和σ的估计。由于最小二乘估计有诸多众所周知的优点, 所以人们一直都认为它是一个良好的估计。

但是, 随着容许性理论的发展和对含有较多自变量的大型回归问题的研究, 人们吃惊的发现, 在有些情况下最小二乘估计的性能可能变得很坏。针对这种情况, 众多的统计学家提出了各种各样的关于回归参数的有偏估计以改进最小二乘估计, 并研究了它们的一些性质。

在这些有偏估计中, 双k类估计占据着重要的地位, 其定义为

这种有偏估计实质上是一种Stein型估计, 最早是由Nagar.A.L于1962年在 (1) 中提出的。在 (2) 中, 王松桂得到了在均方误差标准下双k类估计优于最小二乘估计的一个充分条件。定理如下:

定理1当, k1满足对一切β和σ, 双k类估计 (2) 比最小二乘估计有较小的均方误差, 即双k类估计 (2) 一致优于最小二乘估计

在本文中, 我们通过一个比较简洁的方法得到了在广义均方误差下相应的双k类估计优于最小二乘估计的一个充分条件, 从而从另一个方面证明了最小二乘估计的不可容许性。

下面叙述本文主要结果。

定理2在线性回归模型 (1) 中, 如果以下两条件满足

这里c为常数, 则有

为得到主要结果, 我们首先给出若干定义和引理。

定义3假设是参数向量θ的估计量, 则的广义均方误差 (GMSE) 定义为

这里D为正定阵。

这里我们假设广义均方误差定义中的D=X′X。

引理4[2]令, 则有

这里P (λ) 是参数为λ的泊松分布。

引理5[2]令u～N (µ, σ2) , σ2为已知常数, f (x) 是实值函数, 并且满足E|f′ (u) |<∞, 则有

以上两个引理的证明请参考 (2) , 在此省略。

下面给出定理2的证明。

证明我们首先分别计算的广义均方误差。

另一方面, 由定理2的条件 (1) 知, 对任意的观察向量Y, 我们有

于是由定理2的条件 (2) , 我们有

摘要：本文通过一个比较简洁的方法, 得到了在广义均方误差标准下双类估计优于最小二乘估计的充分条件。

关键词：线性模型,双类估计,最小二乘估计,广义均方误差

参考文献

[1] Nagar.A.L.Double k-class estimator of parameters in si-multaneous equations and their small sample properties[J].International Econmic Review.1962.3:168～188.

[2] 王松桂.线性模型的理论及其应用[M].安徽教育出版社, 1987, 8.