Neyman-Pearson引理能适用于简单的null和Alternative不属于同一分布族的情况吗？

当简单的null和简单的替代项不属于同一分布族时，是否可以适用Neyman-Pearson引理？从它的证明，我不明白为什么不能。

例如，当简单null为正态分布而简单替代为指数分布时。
当两者都属于不同的分布族时，似然比检验是否是对复合零值进行测试的好方法？

谢谢并恭祝安康！

hypothesis-testing mathematical-statistics

— 提姆
source

现在，这是一个好问题。

— Glen_b-恢复莫妮卡

正如您在问题中所说，证明不对两个分布的形式做任何假设。相信数学。

— 青色

@Cyan：似然比检验是否是属于不同分布族的复合零和复合替代方法的好方法？

— 蒂姆（Tim）

为了澄清我先前的评论：我经常看到人们说“不”- 甚至在论文中似乎都这样：-“ [似然比检验] ...可能不能用来推断数据分布的功能形式。 ” 如果这些断言不经常被人们回答，那将是很好的。

— Glen_b-恢复莫妮卡

这是一个非的问题，因为任何两个不同的分布

和

是连续单参数家族的一部分

，

。

F

$F$

G

$G$

{p F + (1 - p) G},

$\{pF + (1-p)G\},$

0 \leq p \leq 1

$0\le p \le 1$

— ub

Answers:

是的，当简单的null和简单替代项不属于同一分布族时，Neyman Pearson Lemma可以适用。

让我们想要构造的最强大的（MP）测试针对它的尺寸。 $H_0:X\sim N(0,1)$ $H_1 : X\sim \text{Exp}(1)$

对于特定的，我们的内曼·皮尔逊引理的临界函数是 $k$

ϕ (x) = {\begin{cases} 1, & \frac{f_{1} (x)}{f_{0} (x)} > k \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&\dfrac{f_1(x)}{f_0(x)}>k \\0, &\text{Otherwise} \end{cases}$

是对大小的MP测试。 $H_0$ $H_1$

此处

r (x) = \frac{f_{1} (x)}{f_{0} (x)} = \frac{e^{- x}}{\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}} = \sqrt{2 π} e^{(\frac{x^{2}}{2} - x)}

$r(x)=\dfrac{f_1(x)}{f_0(x)}=\dfrac{e^{\displaystyle -x}}{\frac{1}{\sqrt{2 \pi}}e^{\displaystyle -x^2/2}}=\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}$

注意现在，如果您绘制的图片[我不知道如何在答案中构造图片]，从图中可以清楚地看到

r^{'} (x) = \sqrt{2 π} e^{(\frac{x^{2}}{2} - x)} (x - 1) {\begin{cases} < 0, & x < 1 \\ > 0, & x > 1 \end{cases}

$r'(x) =\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}(x-1)\\ \begin{cases}<0 ,& x<1\\>0 ,& x>1 \end{cases}$

r (x)

$r(x)$

。

r (x) > k ⟹ x > c

$r(x)>k \implies x>c$

因此，对于一个特定的为相对于其大小的的MP检验。 $c$

ϕ (x) = {\begin{cases} 1, & x > c \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&x>c \\0, &\text{Otherwise} \end{cases}$

H_{o}

$H_o$

H_{1}

$H_1$

你可以测试

1. 针对 $H_0:X\sim N(0,\dfrac{1}{2})$ $H_1:X\sim \text{Cauchy}(0,1)$
2. 针对 $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Cauchy}(0,1)$
3. 针对 $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Double Exponential}(0,1)$

内曼·皮尔森引理。

通常，似然比检验（LRT）对于属于不同分布族的复合零值和复合替代品不是一个好方法。当为多参数时，LRT尤其有用，我们希望检验关于其中一个参数的假设。 $\mathbb{\theta}$

这全是我的。

— 广告
source

Q2。似然比是一个足够合理的检验统计量，但是（a）Neyman-Pearson Lemma不适用于复合假设，因此LRT不一定最有效。＆（b）威尔克斯定理仅适用于嵌套假设，因此，除非一个家庭是另一个家庭的特殊情况（例如指数/ Weibull，泊松/负二项式），否则您不知道零值以下情况下似然比的分布，甚至渐近地

— Scortchi-恢复莫妮卡
source

“ ...您甚至不知道渐近在零值下的似然比分布。” 在这个世界中，您可以在R的少于20行的空值下编写模拟代码，因此这并不是一个大问题

— Cyan

@Cyan：写那20行可能需要一些思考。请记住，它是一个复合null，通常我们不会有轴心，而且我认为LR不一定会是一个近似轴心。我想您可以对LR进行学习...

— Scortchi-恢复Monica

你说的没错总体情况是：我们想要一个测试统计量，该统计量在给定的显着性水平下能提供最大的功效 $\alpha$ . In other words, a way to compute a value $\phi$ so that the points part of parameter space for which $\phi$ exceeds its $\alpha^\mathrm{th}$ quantile under $H_0$ have the least possible weight under $H_1$ . The Neyman-Pearson lemma demonstrates that that statistic is the likelihood ratio.
Neyman & Pearson's original paper also discusses composite hypotheses. In some cases the answer is straightforward -- if there is a choice of particular distributions in each family whose likelihood ratio is conservative when applied the the whole family. This is what often happens, for instance, for nested hypotheses. It's easy for this not to happen, though; this paper by Cox discusses what to do further. I think a more modern approach here would be to approach it in a Bayesian way, by putting priors over the two families.

— petrelharp
source

Great reference there - the Cox paper.

— Scortchi - Reinstate Monica