过去15年的统计领域有哪些突破？

我仍然记得Friedman-Hastie-Tibshirani撰写的《统计年鉴》中关于提振的文章，以及其他作者（包括Freund和Schapire）对相同问题的评论。那时，显然Boosting在许多方面都被视为突破：计算上可行，一种集成方法，具有出色而神秘的性能。大约在同一时间，SVM逐渐成熟，它提供了以坚实的理论为基础并具有大量变体和应用程序的框架。

那是在奇妙的90年代。在过去的15年中，在我看来，很多统计工作都是清理和细化工作，但很少有真正新的观点。

所以我会问两个问题：

1. 我错过了一些革命性的论文吗？
2. 如果没有，您认为有没有新方法可以改变统计推断的观点？

规则：

1. 每个帖子一个答案；
2. 欢迎参考或链接。

PS：我有几个候选人有望取得突破。我稍后再发布。

答案很简单，我必须写所有这些乱七八糟的东西才能使简历发布：R

我不确定您是否会称其为“突破”，但是概率论的出版： Edwin Jaynes和Larry Bretthorst 的科学逻辑也许是值得注意的。他们在这里做的一些事情是：

1）显示某些迭代“季节调整”方案与贝叶斯“讨厌参数”积分之间的等价关系。

2）解决了所谓的“边际化悖论”，有人认为这是“贝叶斯主义的死亡”，而有人认为是“不当先验的死亡”。

3）概率描述的是关于命题是真还是假的知识状态，而不是描述世界的物理特性。

本书的前三章可在此处免费获得。

作为一名应用统计学家和偶尔的次要软件作者，我会说：

WinBUGS（1997年发布）

它基于15年前（1989年）发布的BUGS，但是WinBUGS使得对实际复杂模型的贝叶斯分析可供更广泛的用户使用。参见例如Lunn，Spiegelhalter，Thomas＆Best（2009）（以及《医学统计学》第28卷第25期中对此的讨论）。

LARS得到我的投票。它结合了线性回归和变量选择。计算它的算法通常会为您提供线性模型的集合，其中第个仅对回归变量具有非零系数，因此您可以轻松查看不同复杂度的模型。我$k$$i$$i$

在决策理论中引入了“固有差异”损失函数和其他“无参数化”损失函数。它具有许多其他“不错”的属性，但我认为最好的属性如下：

如果的最佳估计使用固有差异损失函数是，然后中任一项对一函数的最佳估计，说是简单地。θ ë θ 克（θ ）克（θ ë$\theta$$\theta^{e}$$\theta$$g(\theta)$$g(\theta^{e})$

我觉得这很酷！（例如，对数奇数的最佳估计是log（p /（1-p）），方差的最佳估计是标准偏差的平方，等等）

抓住？内在的差异可能很难解决！（它涉及min（）函数，似然比和积分！）

“捕渔获”？您可以“重新安排”问题，以便更轻松地计算！

“反计数器捕获”？弄清楚如何“重新安排”问题可能很困难！

以下是一些我知道使用此损失函数的参考。尽管我非常喜欢这些论文/幻灯片的“内在估算”部分，但我对本文所述的“参考先行”方法有所保留。

贝叶斯假设检验：一种参考方法

内在估计

比较正常均值：解决老问题的新方法

综合客观贝叶斯估计和假设检验

我相信，就在15年内，用于控制False Discovery Rate的算法。我喜欢“ q值”方法。

加上我自己的5美分，我认为过去15年中最重要的突破是压缩传感。LARS，LASSO和许多其他算法都属于此领域，因为压缩感知解释了它们起作用的原因并将其扩展到其他领域。

与统计本身没有什么关系，但从中受益匪浅：计算机的强大功能不断增强，使得更大的数据集和更复杂的统计分析更加容易获得，尤其是在应用领域。

贝叶斯推断的期望传播算法，尤其是在高斯过程分类中，可以说是一个重大突破，因为它提供了一种有效的解析近似方法，其效果几乎与基于计算的昂贵采样方法一样（不同于通常的拉普拉斯近似方法）。在EP路线图上查看Thomas Minka和其他人的工作

我认为H. Rue等人的“使用集成嵌套Laplace逼近法对潜在高斯模型进行近似贝叶斯推断”。al（2009）是一个潜在的候选人。

我认为，所有允许您大规模运行新模型的东西都是一个突破。可伸缩结构高斯过程（KISS-GP）的内核插值可能是一个候选方法（尽管这个想法是新的，并且提出的想法没有很多实现）。

尽管比统计数据更笼统，但我认为可再现研究（RR）的方法已经取得了重要进展。例如R knittr和Sweave软件包和“ R Markdown”笔记本，LyX和LaTeX的改进为数据共享，协作，验证/验证乃至统计的进一步发展做出了重要贡献。统计，医学和流行病学杂志上的参考论文很少允许在这些可再现的研究方法/技术出现之前容易地再现结果。现在，一些期刊需要可重复的研究，许多统计学家正在使用RR并在网上发布代码，其结果和数据源。这也有助于培养数据科学学科，并使统计学习更容易获得。

我认为，该论文于2011年在《科学》杂志上发表。作者提出了非常有趣的一对随机变量之间的关联度量，该度量在相似度量失败的许多情况下都很好用（Pearson，Spearman，Kendall）。真的很好。这里是。