不独立于样本分布的统计示例？

这是维基百科上统计的定义

更正式地说，统计理论将统计量定义为样本的函数，其中函数本身与样本的分布无关。也就是说，可以在实现数据之前说明功能。统计信息一词既用于函数，也用于给定样本上的函数值。

我想我对这个定义大体上了解，但是我不能弄清函数独立于样本分布的那部分。

我到目前为止对统计的理解

一个样本是一组的一些数目的独立的实现中的，同分布与分布F（iid）的随机变量（10层的实现一个20面公平骰子，一个六面公平骰子的5个辊100米的实现的一个辊，从人口中随机抽取100个人）。

一个函数，其域就是该集合，其范围是实数（或者它可以产生其他事物，例如矢量或其他数学对象……）将被视为统计信息。

当我想到示例时，均值，中位数，方差在这种情况下都是有意义的。它们是一组实现的函数（来自随机样本的血压测量）。我还可以看到如何将线性回归模型视为统计 $y_{i} = \alpha + \beta \cdot x_{i}$ -这不仅是一组实现上的函数吗？

我感到困惑的地方

假设我从上面的理解是正确的，那么我将无法理解某个函数可能与样本分布无关的地方。我一直在想一个例子来理解它，但是没有运气。任何见解将不胜感激！

mathematical-statistics definition

— 杰克·基尔希（Jake Kirsch）
source

Answers:

该定义陈述起来有些尴尬。“统计”是可观察值的任何函数。该定义的全部含义是，统计信息仅是可观察值的函数，而不是分布或其任何参数的函数。例如，如果 $X_1, X_2, ..., X_n \sim \text{N}(\mu, 1)$ 然后统计将任何功能 $T(X_1,...,X_n)$ 而功能 $H(X_1,....,X_n, \mu)$ 将不是一个统计量，因为它取决于 $\mu$ 。以下是一些其他示例：

\begin{aligned} Statistic & {\bar{X}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}, \\ Statistic & S_{n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (X_{i} - {\bar{X}}_{n})^{2}, \\ Not a statistic & D_{n} = {\bar{X}}_{n} - μ, \\ Not a statistic & p_{i} = N (x_{i} | μ, 1), \\ Not a statistic & Q = 10 μ . \end{aligned}

$\begin{equation} \begin{aligned} \text{Statistic} & & & & & \bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i, \\[12pt] \text{Statistic} & & & & & S_n^2 = \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X}_n)^2, \\[12pt] \text{Not a statistic} & & & & & D_n = \bar{X}_n - \mu, \\[12pt] \text{Not a statistic} & & & & & p_i = \text{N}(x_i | \mu, 1), \\[12pt] \text{Not a statistic} & & & & & Q = 10 \mu. \\[12pt] \end{aligned} \end{equation}$

每个统计信息仅是可观察值的函数，而不是其分布或其参数的函数。因此，没有作为分布或其参数的函数的统计量的示例（任何此类函数都不是统计量）。但是，重要的是要注意，统计量的分布（与统计量本身相反）通常取决于值的基础分布。（对于所有统计信息（辅助统计信息除外）都是如此。）

已知参数的函数呢？在下面的评论中，Alecos提出了一个很好的后续问题。使用固定的参数假定值的函数呢？例如，统计 $\sqrt{n} (\bar{x} - \mu)$ 其中 $\mu = \mu_0$ 被取为等于一个已知的假设的值 $\mu_0 \in \mathbb{R}$ 。只要在适当限制的域上定义该函数，该函数实际上就是统计信息。因此函数 $H_0: \mathbb{R}^n \rightarrow \mathbb{R}$ 与 $H_0(x_1,...,x_n) = \sqrt{n} (\bar{x} - \mu_0)$ 将是一个统计量，但功能 $H: \mathbb{R}^{n+1} \rightarrow \mathbb{R}$ 与 $H(x_1,...,x_n, \mu) = \sqrt{n} (\bar{x} - \mu)$ 将不会是一个统计量。

— 恢复莫妮卡
source

将基础统计参数视为非统计数据的一部分，这非常有帮助，特别有帮助。

— 杰克·基尔希

10^{10}

$10^{10}$

(X_{1} + X_{2} + \dots + X_{1000}) / 1000

$(X_1+X_2+\dots+X_{1000})/1000$

(X_{1} + \dots + X_{n / 2}) / (n / 2)

$(X_1+\dots+X_{n/2})/(n/2)$

(X_{n / 2 + 1} + \dots + X_{n}) / (n / 2)

$(X_{n/2+1}+\dots+X_n)/(n/2)$

这些例子对我似乎完全有效。您是说将数据分为训练集和验证集的想法无效吗？

— 詹姆斯·马丁

我也对此感到困惑。让我尝试描述@CarlWitthoft点。就数学定义而言，它仍然是统计数据，但是我可以看到一个情况，即顾问对观察结果进行了“统计”，但任意决定删除一些结果（顾问一直在这样做吗？）。从某种意义上说，这仍然是“有效的”，但仍取决于观察结果，但是，统计数据的呈现和解释方式可能无效。

— 杰克·基尔希

@Carl Withhoft: With respect to the point you are making, it is important to distinguish between a statistic (which need not include all the data, and may not encompass all the information in the sample) and a sufficient statistic (which will encompass all the information with respect to some parameter). Statistical theory already has well-developed concepts like sufficiency that capture the idea that a statistic includes all relevant information in the sample. It is not necessary, or desirable, to try to build that requirement into the definition of a "statistic".

— Reinstate Monica

I interpret that as saying that you should decide before you see the data what statistic you are going to calculate. So, for instance, if you're going to take out outliers, you should decide before you see the data what constitutes an "outlier". If you decide after you see the data, then your function is dependent on the data.

— Acccumulation
source

this is also helpful! So making a decision on which observations to include in the function after knowing what observations are available, which is more or less what I was describing in my comment on the previous answer.

— Jake Kirsch

(+1) It might be worth noting that this important because if you define a rule a prior about what constitutes a data point that will be dropped, it is (relatively) easy to derive a distribution for statistic (i.e., truncated mean, etc.). It's really hard to derive a distribution for a measure that involves dropping data points for reasons that are not cleanly defined before hand.

— Cliff AB