回归系数的倒数分布


9

假设我们有一个线性模型 yi=β0+β1xi+ϵi符合所有标准回归(Gauss-Markov)假设。我们有兴趣θ=1/β1

问题1:分配的必要条件是什么θ^ 定义清楚吗? β10 会很重要-其他吗?

问题2:添加假设误差遵循正态分布。我们知道,如果β^1 是MLE, g() 是单调函数,则 g(β^1) 是MLE g(β1)。单调性仅在β1?换句话说,是θ^=1/β^MLE?连续映射定理至少告诉我们该参数是一致的。

问题3: Delta方法和自举程序是否都是寻找分布的合适方法?θ^

问题4:这些答案如何更改参数γ=β0/β1

旁白:我们可能会考虑重新布置问题以解决

xi=β0β1+1β1yi+1β1ϵi=γ+θyi+1β1ϵi
直接估算参数。这对我似乎不起作用,因为高斯-马尔可夫假设在这里不再有意义。我们不能谈论E[ϵy], 例如。这种解释正确吗?

“标准”假设是否包括 ϵi或不?
whuber

好点子; 我将该假设添加到有关MLE的部分中。但是,对于其他人则没有必要。
查理

1
的抽样分布 β1 是正常的 θ是法线的倒数。这是双峰式,具有均值(无限大),无论β1可能是0,并且在0处是无限平坦的。因此Delta方法将很糟糕,通常的渐近MLE近似值将很差,甚至可能会怀疑自举。
whuber

@whuber,您能谈谈吗?我的直觉没有看到法线的倒数应该是双峰的。我的猜测是,所有质量都将等于法线平均值的倒数(在这里,1/β^1)。由于质量接近于0,我担心无限的平均可能性。引导和渐近结果要求存在估计的矩,因此,这最终取决于此问题。
查理

1
相互法线的PDF为 exp((1/xμ)2/(2σ2))/(2πx2σ)dx。在0时,所有导数等于0;找到其对数的临界点可确定正负模式(易于计算为σμ/σ); 的积分|x||x|/x2=1/|x|。初始矩无限的问题与任何随机变量的倒数相关,随机变量的正概率密度为0(包括所有法线)。
ub

Answers:


3

Q1。如果β^1 是的MLE β1, 然后 θ^ 是的MLE θβ10 是使此估算器得到明确定义的充分条件。

Q2。 θ^=1/β^ 是的MLE θ通过MLE的不变性。另外,您不需要单调性g如果您不需要获取它的逆。只需要g在每个点上都有明确的定义。您可以在Nitis Mukhopadhyay撰写的“概率与统计推断” 定理7.2.1 pp。350中进行检查。

Q3。是的,您可以同时使用这两种方法,我还将检查θ

Q4。在这里,您可以根据感兴趣的参数重新参数化模型(θ,γ)。例如,γγ^=β^0/β^1 并且您可以照常计算该参数或其引导分布的轮廓可能性。

您最后提到的方法是不正确的,实际上您正在考虑可以在文献中查看的“校准模型”。您唯一需要做的就是根据感兴趣的参数重新设置参数。

我希望这有帮助。

亲切的问候。


3
感谢您的回复。我没有您要引用的书,但通常这些属性要求存在估计的时刻。我不确定法线的倒数是否具有必要的时刻。我应该在我的问题中阐明这一点。
查理
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.