对于涉及到三个变量Y,X1,X2的数据做以下回归: (1)Yi=α0+α1X1i+μ1i (2)Yi=β0+β1X2i+μ2i (3)Yi=γ0+γiX1i+γ
对于涉及到三个变量Y,X1,X2的数据做以下回归:
(1)Yi=α0+α1X1i+μ1i
(2)Yi=β0+β1X2i+μ2i
(3)Yi=γ0+γiX1i+γ2X2i+μ3i
问在什么条件下才能有,即多元回归与各自的一元回归所得的参数估计值相同。
由回归模型(1)与(2)分别知
对模型(3),令其样本回归模型的离差形式为
yi=γ1x1i+γ2x2i+e3i
求 ∑=(yi-γ1x1i-γ2x2i)2
的最小值,可得如下正规方程组:
解此方程组得
可见,当∑x1ix2i=0时,即X1与X2完全线性无关(正交)时,有。由此得多元回归的一个重要的结论:当各解释变量没有线性相关性时,多元回归中各解释变量的参数等于分别进行一元回归时解释变量的参数。