在MLR.5 同方差假设中,满足:
Var(u∣x1,x2,...,xk)=σ2
现实世界中方差未必恒定相等,于是引出异方差:
异方差(Heteroscedasticity)
Var(u∣x1,x2,...,xk)=σi2
异方差的影响
在异方差的条件下,OLS估计量依然是无偏与一致的,这是因为我们之前对无偏性的证明中仅仅用到了MLR.1−MLR.4。但是OLS不再是最优线性无偏估计值(BLUE),即OLS未必是方差最小的估计量。同时,Var(βj^)有偏,F统计量与 t 统计量也不再服从对应分布。
异方差-稳健推断($Heteroscedasticity-robust\ inference $)
在异方差的条件下,对于一元回归,可以同理前文方法得到:
Var(β1^)=SSTx2∑i=1n(xi−xˉ)2σi2
因此我们需要一种估计方法解决σi的估计问题,估计方法如下:
Var(u∣x1,x2,...,xK)=σi2
Var^(βj^)=SSRj2∑i=1nr^ij2u^i2
其中r^ij表示将xj对所有其他自变量做回归所得到地第i个残差,SSRj则是这个回归的残差平方和。而Var^(βj^) 则称为异方差—稳健的标准误。
对异方差性的检验
布罗施—帕甘检验
假设同方差,则:
H0:Var(u∣x1,x2,...,xk)=σ2=E(u2)
为了检验E(u2)=σ2是否成立,可以假定线性函数:
u2=δ0+δ1x1+δ2x2+...+δkxk+v
则同方差的原假设为:
H0:δ1=δ2=...=δk=0
对此,可以使用F统计量进行检验。
怀特检验
u^2=δ0+δ1x1+δ2x2+δ3x3++δ4x12+δ5x22+δ6x32+δ7x1x2+δ8x1x3+δ9x2x3+error
H0:δ1=δ2=...=δ9=0
使用F检验:F∼Fk,n−k−1
怀特检验的缺陷
需要使用大量的变量,会用掉很多的自由度。
一个解决方法:
已知:
yi^=β0^+β1^xi1+β2^xi2+...+βk^xik
我们通过估计方程:
u^2=δ0+δ1y^+δ2y^2+误差项
这样y^2的展开式中就包含了自变量的平方项和交叉乘积项。
故我们只需要进行原假设:
H0:δ1=0,δ2=0
加权最小二乘估计
假设除了一个常数倍数(σ2)以外,异方差是可知的:
Var(ui∣xi)=σ2h(xi) , h(xi)=hi>0
yi=β0+β1xi1+...+βkxik+ui
hiyi=β0hi1+β1hixi1+...+βkhixik+hiui
于是:
yi∗=β0xi0∗+β1xi1∗+...+βkxik∗+ui∗
此时:
Var(ui)=Var(hiui)=hi1Var(ui)=σ2
此时ui为同方差。
假设已知h(x)的形式而不知道其参数:
我们可以先对参数进行回归,得到一个估计的h(x)。