无可能性的推断-这是什么意思？

最近，我意识到文学中流传着“无可能性”方法。但是我不清楚推理或优化方法是没有可能性的意味着什么。

在机器学习中，目标通常是使某些参数拟合函数的可能性最大化，例如神经网络上的权重。

那么，无可能性方法的原理到底是什么？为什么像GAN这样的对抗网络却属于这一类呢？

有许多方法的示例不基于统计中的可能性（我不知道机器学习）。一些例子：

1. 费舍尔的纯粹意义检验。仅基于明确定义的零假设（例如，Lady Tasting Tea实验中先牛奶和后牛奶之间没有差异。此假设导致零假设分布，然后是p值。不涉及可能性。这种最小的推论机制本身无法提供功效分析（没有正式定义的替代方案）或置信区间（没有正式定义的参数）的基础。

2. 与1.相关的是随机化测试随机化测试和置换测试之间的差异，其最基本的形式是纯意义测试。

3. 自举是在不需要似然函数的情况下完成的。但是与可能性的想法有联系，例如经验的可能性。

4. 基于等级的方法通常不使用可能性。

5. 大量可靠的统计信息。

6. 中位数（或其他分位数）的置信区间可以基于顺序统计。计算中不涉及任何可能性。对于中值的置信区间， 为经验值的方差的最佳估计

7. V Vapnik提出了跨性别学习的想法，这似乎与《黑天鹅塔莱布》和《黑天鹅》中讨论的https://en.wikipedia.org/wiki/Epilogism有关。

8. 在《数据分析和近似模型》一书中，劳里·戴维斯（Laurie Davis）建立了统计模型的系统理论，以近似值表示，置信区间被近似值区间取代，并且没有参数分布族，没有仅等。而且没有可能性。$\text{N}(\mu, \sigma^2)$$\text{N}(9.37, 2.12^2)$

在您获得似然函数的那一刻，有一个巨大的机制可以建立。贝叶斯主义者离不开，大多数人在大多数时间都使用可能性。但是在评论中指出，即使是贝叶斯主义者也尝试这样做，请参阅 rox_Bayesian_computation。甚至有关于该主题的新文本。

但是它们来自哪里？为了以通常的方式获得似然函数，我们需要很多假设，而这些假设可能很难证明是正确的。

有趣的是，我们是否可以从某些无可能性的方法中以某种方式构造似然函数。例如，上面的第6点，我们是否可以根据从顺序统计中计算出的（一系列）置信区间为中位数构造似然函数？我应该单独提出一个问题...

您对GAN的最后一个问题是，我必须离开别人。

具体来说，[最近]的无可能性方法是ABC算法的改写，其中ABC代表近似贝叶斯计算。这旨在涵盖不需要使用封闭形式似然函数的推理方法，但仍旨在研究特定的统计模型。他们摆脱了可能性带来的计算困难，但没有产生这种可能性的模型。例如看

1. 格雷洛德，A；马林（JM）；罗伯特·C；F·罗道夫（Rodolphe）；Tally，F（2009）。“在Gibbs随机字段中选择模型的无类似方法”。贝叶斯分析。3：427–442。
2. 拉特曼（Ratmann）C·安德列（Andrieu）；Wiuf，C；理查森，S（2009）。“基于无可能性推断的模型批评及其在蛋白质网络进化中的应用”。美利坚合众国国家科学院院刊。106：10576-10581。
3. Bazin，E.，Dawson，KJ，＆Beaumont，MA（2010）。贝叶斯分层模型中的人口结构和局部适应性的无可能性推断。遗传学，185（2），587-602。
4. Didelot，X；RG Everett；约翰逊（AM）Lawson，DJ（2011年）。“对模型证据的无似然估计”。贝叶斯分析。6：49-76。
5. Gutmann，M.和Corander，J.（2016）基于模拟器的统计模型的无可能性推断的贝叶斯优化 。机器学习研究学报。

为了增加答案，渐进统计实际上没有任何可能性。

这里的“可能性”是指数据的概率模型。我可能不在乎。但是我可能会找到一些简单的估计器，例如均值，它是数据的适当摘要，并且我想对分布的均值进行推断（假设存在均值，这通常是一个合理的假设）。

根据中心极限定理，当方差也存在时，均值在大N中具有近似正态分布。我可以创建大小正确的一致的测试（当null为false时，功率变为1，N变为无穷大）。虽然我有一个有限样本量中均值采样分布的概率模型（即错误），但我可以获得有效的推论和无偏估计，以增强我的“有用的数据摘要”（均值）。

应当注意，基于中位数的95％CI进行的测试（即@kjetilbhalvorsen答案中的选项6）也依赖于中心极限定理来证明它们是一致的。因此，将简单的T检验视为“非参数”或“基于非似然性”的检验并不为过。

$p(y|x)$$x$$y$$p(y|x) = N(y|\mu(x), \sigma)$$p(y|x)$

$p(y|x)$