统计和大数据

根据参考文献1册，第二册和纸。 已经提到，正规化回归（Ridge，LASSO和Elastic Net）与其约束公式之间存在等价关系。 我还查看了交叉验证1和交叉验证2，但是我看不到明确的答案表明等价或逻辑。 我的问题是 如何使用Karush–Kuhn–Tucker（KKT）证明这种等效性？ 以下公式适用于Ridge回归。 注意 这个问题不是功课。只是增加了我对该主题的理解。 更新 我还不知道

11 regression  optimization  lasso  ridge-regression  elastic-net 

如果统一，和滨，然后的后平均由下式给出。p∼p∼p \sim(0,1)(0,1)(0,1)X∼X∼X \sim(n,p)(n,p)(n, p)pppX+1n+2X+1n+2\frac{X+1}{n+2} 这个估算器有一个通用名称吗？我发现它解决了很多人的问题，我希望能够为人们提供参考，但是却找不到合适的名称。 我隐约记得在统计101本书中，它被称为“ + 1 / + 2估计器”，但这不是一个非常可搜索的术语。

11 bayesian  terminology  laplace-smoothing 

背景 在计算机科学，数学以及某些其他领域，“深奥”的例子不仅很有趣，而且有助于说明某些概念，例如： Bogosort和Slowsort是效率很低的排序算法，可用于了解算法的属性，特别是与其他排序算法相比时。 神秘的编程语言证明了编程语言的概念具有深远的意义，并有助于欣赏优质的编程语言。 该魏尔斯特拉斯函数和狄氏功能主要发现使用说明关于连续性的概念，某些误解。 我目前正在准备一些有关使用假设检验的教学方法，并认为以极低的功效（但没有其他缺陷）进行检验将有助于说明统计功效的概念。（当然，我仍然必须自己决定一个给定的例子对我的听众是否有教益或仅仅是令人困惑。） 实际问题 是否有任何故意降低功耗的统计测试，更具体地说： 该检验符合假设检验的一般框架，即，它适用于原假设，具有要求并返回（正确的）p 值。 它不打算/不建议用于严重的应用。 它具有非常低的功率（由于故意的设计缺陷，而不是由于样本或效应量较小）。 如果您可以从根本上说不存在这样的测试，我也将认为这是对我的问题的有效答案。另一方面，如果存在大量这样的测试，那么我对教学上最有效的测试感兴趣，也就是说，它应该易于获得并且具有惊人的效果。 请注意，我并不是要对统计错误（樱桃采摘等）或类似情况进行一般选择。 我到目前为止发现的 互联网搜索对我没有任何回报。 每次构建这样的东西的尝试都以某种（有用的）现有测试或格式不是常规测试而告终。例如，我考虑过一个检验，如果总体样本中位数为正，则总体中位数是否为正，则仅返回是。但是该测试不会返回p 值，因此不适合通常的测试框架。如果仅将正负号作为测试统计量（并相应地计算p 值），那么我最终会进行正负号test，这是一个合理的测试。

11 hypothesis-testing  teaching  humor 

据我了解，它是（至少是Wikipedia定义的）。但是我发现Efron *的这句话（加了强调）： 马尔可夫链蒙特卡洛（MCMC）是现代贝叶斯统计的成功典范。MCMC及其姊妹方法“ Gibbs采样”允许在过于复杂而无法通过解析表达式表达的情况下，对后验分布进行数值计算。 现在我很困惑。这只是术语上的微小差异，还是Gibbs采样了MCMC之外的其他内容？ [*]：Efron 2011，“ The Bootstrap and Markov-Chain Monte Carlo”

11 mcmc  gibbs 

在常客统计中，置信区间为95％是一个区间生成过程，如果重复无数次，则95％的时间将包含真实参数。为什么这有用？ 置信区间常常被误解。它们不是我们可以95％确定参数所在的间隔（除非您使用的是类似的贝叶斯可信度间隔）。置信区间对我来说就像个诱饵和开关。 我可以想到的一个用例是提供不能拒绝参数为该值的原假设的值范围。p值不能提供此信息，但是更好吗？不会这么误导？ 简而言之：为什么我们需要置信区间？如果正确解释，它们如何有用？

11 hypothesis-testing  bayesian  mathematical-statistics  confidence-interval  frequentist 

最近，我意识到文学中流传着“无可能性”方法。但是我不清楚推理或优化方法是没有可能性的意味着什么。 在机器学习中，目标通常是使某些参数拟合函数的可能性最大化，例如神经网络上的权重。 那么，无可能性方法的原理到底是什么？为什么像GAN这样的对抗网络却属于这一类呢？

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

我经常与他们谈论贝叶斯层次模型中的信息借用或信息共享。对于这实际上意味着什么以及贝叶斯层次模型是否独特，我似乎无法获得一个直接的答案。我有点主意：层次结构中的某些级别共享一个公共参数。我不知道这如何转换为“信息借用”。 人们喜欢扔掉“信息借用” /“信息共享”这句话吗？ 是否有一个封闭形式的后继例子来说明这种共享现象？ 这是贝叶斯分析所独有的吗？通常，当我看到“信息借用”示例时，它们只是混合模型。也许我以一种老式的方式学习了这种模型，但是我看不到任何共享。 我对开始有关方法的哲学辩论不感兴趣。我只是对这个术语的使用感到好奇。

11 machine-learning  bayesian  multilevel-analysis  terminology  hierarchical-bayesian 

我想在一个不平衡的数据集上测试我训练有素的模型。是否有可用的算法从平衡的标记数据集（垃圾邮件/非垃圾邮件）生成合成数据？

11 unbalanced-classes  synthetic-data 

（此问题的灵感来自西安的评论。） 众所周知的是，如果先验分布π（θ ）π(θ)\pi(\theta)是适当的和似然L （θ | x ）L(θ|x)L(\theta | x)是良好定义的，然后将后验分布π（θ | X ）α π（θ ）L （θ | x ）π(θ|x)∝π(θ)L(θ|x)\pi(\theta|x)\propto \pi(\theta) L(\theta|x)几乎可以肯定是正确的。 在某些情况下，我们改用经过调和或取幂的可能性，从而导致伪后验 π〜（θ | X ）α π（θ ）L （θ | x ）απ~(θ|x)∝π(θ)L(θ|x)α\tilde\pi(\theta|x)\propto \pi(\theta) L(\theta|x)^\alpha 为一些α > 0α>0\alpha>0（例如，这可以具有计算上的优点）。 在这种情况下，是否可能有适当的先验但伪后验不当？

11 bayesian  prior  posterior 

为什么选择符号来表示皮尔逊的产品力矩相关性？[Rrr

11 correlation  history 

据我了解，CNN由两部分组成。第一部分（转换/池层）进行特征提取，第二部分（fc层）对特征进行分类。 由于完全连接的神经网络不是最佳分类器（即，大多数情况下它们的性能优于SVM和RF），因此CNN为什么以FC层作为结束，而不是说SVM或RF？

11 neural-networks  svm  random-forest  conv-neural-network 

如果遵循柯西分布然后Ŷ = ˉ X = 1XXX也遵循与X完全相同的分布；看到这个线程。ÿ= X¯= 1ñ∑ñ我= 1X一世ÿ=X¯=1个ñ∑一世=1个ñX一世Y = \bar{X} = \frac{1}{n} \sum_{i=1}^n X_iXXX 这个属性有名字吗？ 还有其他分布是真的吗？ 编辑 提出此问题的另一种方式： 令为概率密度为f （x ）的随机变量。XXXF（x ）F（X）f(x) 令，其中X我表示的第i个观察X。ÿ= 1ñ∑ñ我= 1X一世ÿ=1个ñ∑一世=1个ñX一世Y=\frac 1 n\sum_{i=1} ^n X_iX一世X一世X_iXXX 本身可以视为随机变量，而无需以 X的任何特定值为条件。ÿÿYXXX 如果遵循柯西分布，则Y的概率密度函数为f （x ）XXXÿÿYF（x ）F（X）f(x) 是否存在其他类型的（非平凡*）概率密度函数，从而导致Y具有f （x ）概率密度函数？F（x ）F（X）f(x)ÿÿYF（x ）F（X）f(x) *我能想到的唯一简单的例子是狄拉克三角洲。即不是随机变量。

11 distributions  expected-value  central-limit-theorem  cauchy 

我正在从事一个涉及读取RFID标签并比较读者在更改天线配置（天线数量，位置等）时看到的信号强度的项目。作为项目的一部分，我需要比较设置以查看最有效的设置。 理想情况下，我将能够在两个天线位置（或多个天线位置）之间执行未配对t检验或ANOVA。但是，由于响应是以对数为分贝，所以我想知道最好的方法是什么？ 最好将结果转换成线性比例，然后使用我提到的一种方法进行比较，还是应该使用分贝（按原样）以及其他统计检验来进行比较？

11 data-transformation  linear-model  descriptive-statistics 

我的统计课程刚刚告诉我，离散随机变量具有有限数量的选择...我还没有意识到。我会认为，就像一组整数一样，它可能是无限的。谷歌浏览并检查了几个网页，包括大学课程中的一些网页，未能明确确认这一点；但是，大多数站点确实说离散随机变量是可数的 -我想这意味着有限编号吗？ 显然，即使（大多数？）经常有界，连续随机变量也是无限的。 但是，如果离散随机变量具有有限的可能性，那么整数的无限分布是什么？它既不是离散的也不是连续的？是因为变量要么是连续的（根据定义）是无限的，要么是不连续的且是有限的，所以这个问题是否有意义？

11 random-variable  discrete-data 

我执行了线性回归，得出了显着结果，但是当我检查散点图的线性时，我不确定数据是否线性。 还有其他方法可以在不检查散点图的情况下测试线性度吗？ 如果不是线性回归，线性回归会有意义吗？ [编辑以包括散点图]

11 regression