事后测试之前是否需要进行全局测试?


54

我经常听到,只有在ANOVA本身很重要的情况下,才能使用ANOVA之后的事后测试。

  • 但是,事后测试会调整以使I类全局错误率保持在5%,不是吗?p
  • 那么,为什么我们首先需要进行全局测试?
  • 如果我们不需要全局测试,那么“事后”术语是否正确?

  • 还是有多种事后测试,有些假设了重要的整体测试结果,而另一些则没有这种假设?

Answers:


58

由于多次比较测试通常被称为“后期测试”,因此您认为它们在逻辑上遵循单向方差分析。实际上,事实并非如此。

一种不幸的普遍做法是仅在拒绝船体同质性假设时进行多重比较。 ”(Hsu,第177页

如果方差分析的总P值大于0.05,则后期测试的结果是否有效?

令人惊讶的是,答案是肯定的。除了一个例外,即使总体方差分析未发现均值之间存在显着差异,后期测试仍然有效。

例外是发明的第一个多重比较测试,即受保护的Fisher最低有效差(LSD)测试。受保护的LSD检验的第一步是检查总体ANOVA是否拒绝相同均值的零假设。如果没有,则不应进行单独比较。但是,此受保护的LSD测试已过时,不再推荐。

即使整体方差分析不显着,也可以通过多重比较测试获得“显着”结果吗?

对的,这是可能的。Scheffe的检验例外。它与整体F检验交织在一起。如果总体方差分析的P值大于0.05,则Scheffe检验不会发现任何重要的后期检验。在这种情况下,按照总体而言不显着的方差分析进行后期测试是浪费时间,但不会导致无效的结论。但是,即使总体方差分析显示各组之间没有显着差异,其他多重比较测试也可能发现显着差异(有时)。

我怎么能理解方差分析实际上说所有组均值均相同而测试后发现差异之间的明显矛盾呢?

整体单向方差分析检验零假设,即所有治疗组均具有相同的平均值,因此您偶然观察到的任何差异均归因于随机抽样。每个后期测试都会检验两个特定组具有相同均值的原假设。

后期测试更加集中,因此即使整体方差分析报告均值之间的差异在统计学上不显着,也可以发现组之间的差异。

整体方差分析的结果是否有用?

方差分析检验总体零假设,即所有数据均来自具有相同均值的组。如果这是您的实验性问题-数据是否提供令人信服的证据证明手段并不完全相同-那么ANOVA正是您想要的。通常,您的实验问题会更集中,并通过多个比较测试(后期测试)回答。在这些情况下,您可以放心地忽略总体ANOVA结果,而直接跳至测试后结果。

请注意,多次比较计算均使用ANOVA表中的均方结果。因此,即使您不在乎F或P的值,后期测试仍然需要计算ANOVA表。


1
这是Harvey的一个很好的答案-感谢您编写!
pmgjones 2012年

3
(+1)最后两段为理解和欣赏整个答案提供了一个良好的环境。
ub

4
很好的答案,我将在Maxwell和Delaney(2004)中添加一些引号:“ ...这些方法(例如Bonferroni,Tukey,Dunnet等)应被视为综合测试的替代方法,因为它们可以控制您的alphaEW在进行任何这些分析之前,需要进行重要的综合测试(有时会这样做),只能将alphaEW降低到所需水平以下(Bernhardson,1975年),因此会不适当地降低功率”(第236页) 。
dfife 2014年

我喜欢“所以有能力发现不同群体之间的差异……”
SmallChess 2015年

虽然不是问题,但我想我应该提到-由于可能并不明显-在某些情况下也可能出现相反的情况(综合测试拒绝,但没有成对比较)
Glen_b

25

(1)事后测试能否达到名义上的总体I类错误率,这取决于(a)分析人员是否针对测试数量进行调整,以及(b)事后测试在多大程度上独立于一项另一个。首先应用全局测试是非常可靠的保护措施,可防止(甚至不经意间)发现事后数据监听带来的虚假“重要”结果的风险。

(2)存在电源问题。众所周知,即使在任何一对均值的单独t检验都不会产生显着结果的情况下,全局ANOVA F检验也可以检测均值差异。换句话说,在某些情况下,数据可以揭示真实均值可能会有所不同,但无法充分确定哪些均值对有所不同。


关于(2):当您说单因素方差分析可以报告显着差异而没有成对t检验时,您指的是简单的非调整后的(“非发表”,例如不是Tukey的过程或其他任何东西) t检验?我以为这将永远不可能,我错了吗?
变形虫说恢复莫妮卡2014年

@amoeba是的;我指的是未经调整的成对测试。感谢您澄清这一点。
whuber

谢谢@whuber。我试图在CrossValidated上找到关于这一点的讨论,但无济于事。因此,我发布了自己的问题:stats.stackexchange.com/questions/83030/…。如果您能在那里详细说明,我将不胜感激!
变形虫说恢复莫妮卡2014年

3
@amoba和@whuber:您可能知道这一点,但是无论如何我都想澄清一下。请注意,即使Tukey的HSD测试都不是,ANOVA测试也可能很重要。具有三个组的平衡数据集的简单R示例:set.seed(249); group = rep(1:3, each=2); y = group + rnorm(6); mod = aov(y~factor(group)); summary(mod); TukeyHSD(mod); plot(y~group)
Karl Ove Hufthammer

1
好吧,您不能至少推测两个均值之间存在差异,而两者之间差异最大,因为ANOVA的零假设是至少一对均值彼此不同?
Speldosa
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.