基于数据的bin边界对卡方拟合优度的影响？

撇开这种情况下卡方功率低的明显问题，想象通过对数据进行装箱，对未指定参数的某些密度进行卡方检验。

具体来说，假设平均值未知的指数分布和样本量为100。

为了获得每个bin合理数量的预期观察值，需要考虑一些数据（例如，如果我们选择将6个bin置于均值以下，将4个bin置于均值之下，则仍将使用基于数据的bin边界）。

但是，这种基于查看数据的垃圾箱的使用可能会影响零值下测试统计量的分布。

我已经看到了很多关于以下事实的讨论：- 如果通过合并数据以最大似然来估计参数-每个估计参数会损失1 df（这个问题可以追溯到Fisher与Karl Pearson的问题）-但是我不记得了阅读有关根据数据本身查找bin边界的任何信息。（如果估计它们从未像素合并数据，然后用 $k$ 仓检验统计量介于之间的分布 $\chi^2_{k}$ 和 $\chi^2_{k-p}$ ）。

这种基于数据的垃圾箱选择是否会严重影响重要程度或效力？有一些方法比其他方法更重要吗？如果有很大的影响，在大样本中会消失吗？

如果确实有实质性影响，那么在许多情况下，未知参数几乎毫无用处（尽管在很多文本中仍然提倡使用），这似乎将使用卡方检验，除非您有很好的经验。 -参数的先验估计。

讨论问题或引用参考（最好提及其结论）将很有用。

编辑，除了主要问题：

在我看来，对于指数*的特定情况（并可以考虑使用）有可能的解决方案，但是我仍然对影响选择箱边界的更普遍的问题感兴趣。

*例如，对于指数，可以使用最小的观测值（例如等于 $m$ ）来粗略地了解将垃圾箱放置在哪里（因为最小的观测值的平均值为 $\mu/n$ ）。测试剩余的 $n-1$ 差异（ $x_i - m$ ）的指数性。当然，这可能会得出非常差的估计值 $\mu$ ，因此选择了不正确的箱，尽管我想人们可能会递归地使用该参数，以便从最低的两个或三个观测值中选择合理的箱，然后测试其余观测值的差异，以求取最小的最小顺序统计量中的最大值指数）

chi-squared goodness-of-fit binning

— Glen_b-恢复莫妮卡
source

有趣的问题。我不知道答案，但是应该失去一定程度的自由的想法是有道理的。如果您还没有看到它，那么@whuber的答案应该是发人深省的：如何了解自由度。在我看来，至少在某些特定情况下，一些模拟研究应该可以使您有所建树。

— gung-恢复莫妮卡

不确定这有多大帮助，但是在稳健估计领域中也存在类似的问题。具体而言，鲁棒估计（例如，修整后的均值）的方法通常需要参数化的输入（例如，定义要修整多少的参数）。可以通过数据驱动的方法来选择此参数（例如，在选择修整参数之前先查看尾巴的粗细）。但是，与固定参数规则相比，预选择修整参数确实会影响修整平均值的分布。在文学中处理它的通常方法是通过引导程序。

— 科林·T·鲍尔斯

@ColinTBowers-可能会有所帮助，谢谢。没有考虑过引导的可能性。

— Glen_b-恢复莫妮卡

将问题分解为最简单的情况可能会很有趣。想象一下，您喜欢的分布中只有5个观测值，然后在数据中放置一个除法器就仅形成两个bin。

— zkurtz

Answers:

卡方拟合优度检验的基本结果可以分层理解。

0级。经典的Pearson卡方检验统计针对固定概率向量测试样品多项式是 $p$ 其中表示大小为的样本中第个单元格中结果的数量。这可以看作是向量的平方范数，其中

X^{2} (p) = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n p_{i})^{2}}{n p_{i}} \overset{d}{\to} χ_{k - 1}^{2},

$X^2(p) = \sum_{i=1}^k \frac{(X^{(n)}_i - n p_i)^2}{n p_i} \stackrel{d}{\to} \chi_{k-1}^2 \>,$

X_{i}^{(n)}

$X_i^{(n)}$

i

$i$

n

$n$

Y_{n} = (Y_{1}^{(n)}, \dots, Y_{k}^{(n)})

$\mathbf Y_n = (Y_1^{(n)},\ldots,Y_k^{(n)})$

，根据多元中心极限定理，该分布收敛为

Y_{i}^{(n)} = (X_{i}^{(n)} - n p_{i}) / \sqrt{n p_{i}}

$Y_i^{(n)} = (X_i^{(n)} - n p_i)/\sqrt{n p_i}$

由此我们看到，

因为

Y_{n} \overset{d}{\to} N (0, I - \sqrt{p} {\sqrt{p}}^{T}) .

$\mathbf Y_n \stackrel{d}{\to} \mathcal N(0, \mathbf I - \sqrt{p}\sqrt{p}^T) \>.$

X^{2} = ‖ Y_{n} ‖^{2} \to χ_{k - 1}^{2}

$X^2 = \|\mathbf Y_n\|^2 \to \chi^2_{k-1}$

是秩

幂等。

I - \sqrt{p} {\sqrt{p}}^{T}

$\mathbf I - \sqrt{p}\sqrt{p}^T$

k - 1

$k-1$

1级。在层次结构的下一个级别，我们考虑具有多项式样本的复合假设。由于在原假设下未知确切的关注，我们必须对其进行估计。如果零假设是复合的，并且由维度为的线性子空间组成，则最大似然估计（或其他有效估计）可以用作“插入”估计。然后，统计量 $p$ $m$ $p_i$ 在原假设下。

X_{1}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_1 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

2级。考虑一个参数模型的拟合测试的良好性的情况，在该模型中，单元是固定的且事先已知：例如，我们有一个采样率为的指数分布样本，然后通过对元进行分箱来生成多项式样本，如果我们仅使用观察到的频率使用bin概率本身的有效估计（例如MLE），则上述结果仍然成立。 $\lambda$ $k$

$m$ $m = 1$

X_{2}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_2 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

{\hat{p}}_{i}

$\hat{p}_i$

$Z_1,\ldots,Z_n \sim F_\lambda$ $\lambda$ $\chi_{k-m-1}^2$ $\chi_{k-1}^2$

$\mathbf Y_n$ $\mathcal N(0, \mathbf I - \sqrt{p_\lambda}\sqrt{p_\lambda}^T - \mathbf A(\lambda))$

$\lambda$ $\mathbf A(\lambda)$

$\mathbf Y_n$ $\mathbf B(\hat{\lambda})$

Y_{n}^{T} B^{T} B Y_{n} \overset{d}{\to} χ_{k - 1}^{2},

$\mathbf Y_n^T \mathbf B^T \mathbf B \mathbf Y_n \stackrel{d}{\to} \chi_{k-1}^2 \>,$

k

$k$

例如Rao–Robson–Nikulin统计和Dzhaparidze–Nikulin统计。

$k$ $1/k$ $\hat{I}_j = \hat \mu + \hat\sigma I_{0,j}$ $I_{0,j} = [F^{-1}((j-1)/k), F^{-1}(j/k))$

参考文献

A. W. van der Vaart（1998），《渐进统计》，剑桥大学出版社。第17章：卡方检验。
H. Chernoff和EL Lehmann（1954）， $\chi^2$
FC Drost（1989），当类别数趋于无穷大时，针对位置尺度模型的广义卡方拟合优度检验，Ann。统计，第一卷。17号 3，1285-1300年。
MS尼库林，MS（1973），卡方检验用于连续分布带换档和尺度参数，概率论及其应用，第一卷。19号 3，559–568。
KO Dzaparidze和MS Nikulin（1973），关于对Pearson标准统计量的修改，《概率论及其应用》，第1卷。19号 4，851–853。
KC Rao和DS Robson（1974），指数族内拟合检验优度的卡方统计量，Comm。统计员。第三卷，没有。12，1139–1153年。
N. Balakrishnan，V.Voinov和MS Nikulin（2013年），《Chi-Squared拟合优度与应用》，学术出版社。

— 红衣主教
source

我在下面至少找到了我问题的部分答案。（我仍想给某人该奖金，因此感谢您提供任何进一步的信息。）

Moore（1971）指出Roy（1956）和Watson（1957,58,59）表明，当卡方统计量的细胞边界是最佳渐近正态估计参数值的函数时，则在某些条件下，渐近零分布卡方统计量的仍然是 $\chi^2_{k-p-1}$ 和一个加权和 $p$ $\chi^2_1$ 变量（用于 $k$ 细胞， $p$ 参数），其中权重介于0和1之间（使分布的cdf介于 $\chi^2_{k-p}$ 和一个 $\chi^2_{k}$ ，正如我在问题中提到的使用ML估计时的分布），以及最后权重 $p$ 条款不受该估计的影响。

参考文献

Moore DS（1971），《具有随机单元边界的卡方统计》，安。数学。统计，第42卷第1期，147-156页。

罗伊·艾尔（Roy AR，1956），上 $\chi^2$ 斯坦福大学统计系，可变区间统计， 技术报告第1号。

沃森，GS（1957），该 $\chi^2$ 拟合优度测试拟合为正态分布，Biometrika，44，336-348。

沃森，GS（1958年），在 $\chi^2$ 连续分布的拟合优度检验，J。Royal Statist。Soc。乙，20，44-61。

Watson，GS（1959），最近的一些结果 $\chi^2$ goodness-of- fit tests, Biometrics, 15, 440-468

— Glen_b -Reinstate Monica
source