由于
我们知道
,因此,我们知道,对于每个组件的,
,其中是的对角元素。因此,我们知道
β -β〜Ñ(0,σ2(XŤX)-1)ķ β β ķ-βķ〜Ñ(0,σ2小号ķk)Skkkth(XTX
β^= (XŤX)− 1XŤÿ= (XŤX)− 1XŤ(Xβ+ ε )= β+ (XŤX)− 1XŤε
β^- β〜ñ(0 ,σ2(XŤX)− 1)
ķβ^β^ķ- βķ〜ñ(0 ,σ2小号ķ ķ)
小号ķ ķķ日 Ž ķ = β ķ - β ķ(XŤX)− 1žķ= β^ķ- βķσ2小号ķ ķ-----√〜ñ(0 ,1 )。
注意关于标准法向量中幂等二次型分布的定理的陈述(格林定理B.8):
如果且是对称且幂等的,则分布其中是的秩。甲X Ť甲X χ 2 ν ν 甲X 〜Ñ(0 ,我)一种XŤ一个Xχ2νν一种
令表示回归残差矢量,令
是残差制造者矩阵(即) 。容易验证是对称且幂等的。中号=我ñ-X(XŤX)-1XŤ,中号ÿ= ε中号ε^
中号= 我ñ- X(XŤX)− 1XŤ,
中号ÿ= ε^中号
令
是的估计量。
s2= ε^Ťε^ñ - p
σ2
然后,我们需要做一些线性代数。请注意以下三个线性代数属性:
- 幂等矩阵的秩是其迹线。
- Tr(一1个+ A2)= Tr(一1个)+ Tr(一2)
- Tr(一1个一种2)= Tr(一2一种1个)如果为而为(此属性对于下面的工作至关重要)一种1个ñ1个× n2一种2ñ2× n1个
因此,
秩(M)= Tr(M)= Tr(我ñ- X(XŤX)− 1XŤ)= Tr(我ñ)- Tr的(X(XŤX)− 1XŤ))= Tr(我ñ)- Tr的((XŤX)− 1XŤX))= Tr(我ñ)- Tr的(我p)= n − p
然后
V= (n - p )s2σ2= ε^Ťε^σ2= (εσ)Ť中号(εσ)。
将定理应用于标准法向量中的幂等二次型的分布(如上所述),我们知道。V〜χ2ñ - p
由于您假设是正态分布的,因此独立于,并且由于是的函数,因此也独立于。因此,和彼此独立。εβ^ε^s2ε^s2β^žķV
然后,
是标准正态分布与卡方分布的平方根的比率具有相同的自由度(即),这是分布的特征。因此,统计量具有自由度的分布。
Ťķ= zķV/(n−p)--------√
ñ - pŤŤķŤñ - p
然后可以将其代数化为更熟悉的形式。
Ťķ= β^ķ- βķσ2小号ķ ķ√(n - p )s2σ2/(n−p)------------√= β^ķ- βķ小号ķ ķ√s2--√= β^ķ- βķs2小号ķ ķ-----√= β^ķ- βķSE(β^ķ)