Questions tagged «estimation»

假设我们有一个故障概率为的伯努利过程（该概率很小，例如），从中进行采样直到遇到故障。因此，我们将失败概率估计为，其中是样本数。q ≤ 0.01 10 q：= 10 / Ñ Ñqqqq≤ 0.01q≤0.01q \leq 0.01101010q^：= 10 / Nq^：=10/ñ\hat{q}:=10/NññN 问题：是否对有偏差？而且，如果是这样，有没有办法纠正它？ qq^q^\hat{q}qqq 我担心坚持最后一个样本是一次失败会使估计值产生偏差。

15 estimation  bernoulli-distribution 

排列检验（也称为随机检验，重新随机检验或精确检验）非常有用，并且在t-test未满足例如要求的正态分布的假设以及通过按等级对值进行转换时派上用场非参数测试之类的测试Mann-Whitney-U-test会导致丢失更多信息。但是，在使用这种检验时，一个假设且唯一一个假设应该是原假设下样本的可交换性假设。还值得注意的是，当有两个以上的示例（如在coinR包中实现的示例）时，也可以应用这种方法。 您能用简单的英语用一些比喻语言或概念直觉来说明这一假设吗？这对于在像我这样的非统计学家中阐明这个被忽视的问题非常有用。 注意： 提及在相同假设下应用置换测试不成立或无效的情况将非常有帮助。 更新： 假设我随机从我所在地区的当地诊所收集了50个受试者。他们被随机分配为接受药物或安慰剂的比例为1：1。分别Par1在V1（基准），V2（3个月后）和V3（1年后）时测量了参数1 。根据特征A，所有50个主题都可以分为2组；正值= 20，负值=30。它们也可以基于特征B细分为另外2组；B阳性= 15，B阴性=35。 现在，我具有Par1所有访问中所有受试者的值。在可交换性的假设下，如果可以，我是否可以在Par1使用置换测试的水平之间进行比较： -将接受药物治疗的受试者与接受V2安慰剂治疗的受试者进行比较？ -将具有特征A的对象与具有V2的特征B的对象进行比较？ -比较在V2具有特征A的对象与在V3具有特征A的对象？ -在哪种情况下，这种比较是无效的，并且违反了可交换性的假设？

15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information 

我需要以很少的样本“学习”一个双变量高斯分布，但是对于先验分布有一个很好的假设，因此我想使用贝叶斯方法。 我定义我的在先： P(μ)∼N(μ0,Σ0)P(μ)∼N(μ0,Σ0) \mathbf{P}(\mathbf{\mu}) \sim \mathcal{N}(\mathbf{\mu_0},\mathbf{\Sigma_0}) μ0=[00] Σ0=[160027]μ0=[00] Σ0=[160027] \mathbf{\mu_0} = \begin{bmatrix} 0 \\ 0 \end{bmatrix} \ \ \ \mathbf{\Sigma_0} = \begin{bmatrix} 16 & 0 \\ 0 & 27 \end{bmatrix} 和我的分销给定的假说 P(x|μ,Σ)∼N(μ,Σ)P(x|μ,Σ)∼N(μ,Σ) \mathbf{P}(x|\mathbf{\mu},\mathbf{\Sigma}) \sim \mathcal{N}(\mathbf{\mu},\mathbf{\Sigma}) μ=[00] Σ=[180018]μ=[00] Σ=[180018] \mathbf{\mu} = \begin{bmatrix} 0 \\ 0 \end{bmatrix} \ \ \ \mathbf{\Sigma} = …

15 distributions  bayesian  estimation  covariance  posterior 

估计正态分布参数的常用方法是使用均值和样本标准差/方差。 但是，如果存在一些离群值，则中位数和与中位数的中位数偏差应该更健​​壮，对吗？ 在某些数据集我想，通过估计正态分布N(median(x),median|x−median(x)|)N(median(x),median|x−median(x)|)\mathcal{N}(\text{median}(x), \text{median}|x - \text{median}(x)|)似乎产生更好的配合比经典N(μ^,σ^)N(μ^,σ^)\mathcal{N}(\hat\mu, \hat\sigma)用平均值和RMS偏差。 如果您假设数据集中存在一些离群值，是否有任何理由不使用中位数？您知道这种方法的参考吗？在Google上进行快速搜索并没有发现有用的结果来讨论此处使用中位数的好处（但显然，“正态分布参数估计中位数”不是一组非常具体的搜索字词）。 中位数偏差，是否有偏差？我应该乘它n−1nn−1n\frac{n-1}{n}减少偏见？ 您是否知道其他分布（例如Gamma分布或指数修改的高斯分布）（在参数估计中需要偏度，而离群值确实弄乱了该值）的相似鲁棒参数估计方法吗？

15 normal-distribution  estimation  outliers  robust  unbiased-estimator 

假设我有很多SSS值，有时会重复。我希望估算大集合中唯一值的总数。 如果我对TTT值进行随机抽样，并确定其中包含TuTuT_u唯一值，是否可以用它来估计大集合中唯一值的数量？

15 estimation  sampling 

我正在尝试在R中使用' density '函数进行内核密度估计。我有一些困难，解释结果和比较不同的数据集，因为它似乎在曲线下面积不一定1.对于任何概率密度函数（PDF） ，我们需要有区域∫ ∞ - ∞ φ （x ）d x = 1。我假设内核密度估计报告pdf。我使用integrate.xy从sfsmisc估计曲线下面积。ϕ(x)ϕ(x)\phi(x)∫∞−∞ϕ(x)dx=1∫−∞∞ϕ(x)dx=1\int_{-\infty}^\infty \phi(x) dx = 1 > # generate some data > xx<-rnorm(10000) > # get density > xy <- density(xx) > # plot it > plot(xy) > # load the library > library(sfsmisc) > integrate.xy(xy$x,xy$y) [1] 1.000978 > …

15 r  estimation  pdf  kernel-smoothing  auc 

Jeffrey Wooldridge在他的 “横截面和面板数据的计量经济学分析”（第357页）中说，经验Hessian“对于我们正在处理的特定样本，不能保证为正定，甚至正半定”。 对于我来说，这似乎是错误的，因为（由于数字问题）Hessian必须是正半定的，这是因为M估计量的定义是参数的值，该参数使给定样本的目标函数最小化，并且众所周知，在（局部）最小值处，Hessian为正半定值。 我的说法正确吗？ [编辑：该语句已在第二版中删除。这本书。见评论。 背景技术假设θ Ñ是通过最小化所获得的估计 1θˆNθ^N\widehat \theta_N1N∑i=1Nq(wi,θ),1N∑i=1Nq(wi,θ),{1 \over N}\sum_{i=1}^N q(w_i,\theta), 其中wiwiw_i表示第iii个观测值。 让我们表示的海赛qqq通过HHH， H(q,θ)ij=∂2q∂θi∂θjH(q,θ)ij=∂2q∂θi∂θjH(q,\theta)_{ij}=\frac{\partial^2 q}{\partial \theta_i \partial \theta_j} 的渐近协方差θ Ñ涉及ë [ ħ （q ，θ 0）]，其中θ 0θˆnθ^n\widehat \theta_nE[H(q,θ0)]E[H(q,θ0)]E[H(q,\theta_0)]θ0θ0\theta_0是真参数值。估计它的一种方法是使用经验式的Hessian Hˆ=1N∑i=1NH(wi,θˆn)H^=1N∑i=1NH(wi,θ^n)\widehat H=\frac{1}{N}\sum_{i=1}^N H(w_i,\widehat \theta_n) 它的确定性^ h这是个问题。HˆH^\widehat H

15 estimation  maximum-likelihood  econometrics  asymptotics 

我被詹姆斯·斯坦因收缩的思想所吸引（即，对可能独立的法线向量的一次观测的非线性函数可能是对随机变量均值的更好估计，其中“更好”是通过平方误差来衡量的） ）。但是，我从未在应用程序工作中看到它。显然，我没有足够的阅读能力。是否有经典的例子说明James-Stein在实际应用中改进了估计？如果不是，这种缩水仅仅是出于好奇吗？

15 estimation  error  shrinkage  application  steins-phenomenon 

我认为，我已经理解了一致估计量的数学定义。如果我错了纠正我： WnWnW_n如果则 W n是的一致估计量θθ\theta∀ϵ>0∀ϵ>0\forall \epsilon>0 limn→∞P(|Wn−θ|>ϵ)=0,∀θ∈Θlimn→∞P(|Wn−θ|>ϵ)=0,∀θ∈Θ\lim_{n\to\infty} P(|W_n - \theta|> \epsilon) = 0, \quad \forall\theta \in \Theta 其中，是参数空间。但我想了解估计量必须保持一致的必要性。为什么一个不一致的估计是不好的？你能给我一些例子吗？ΘΘ\Theta 我接受R或python中的模拟。

15 estimation  consistency 

我有一家大型意大利公司10年以上员工的数据，我想看看随着时间的推移，男女收入差距中的性别差异是如何变化的。为此，我运行池OLS： ，其中y是每年的对数收入，X i t包括因个体和时间而异的协变量，d t是年份假人，如果工人是男性，则m a l e i等于1，否则为零。yit=X′itβ+δmalei+∑t=110γtdt+εityit=Xit′β+δmalei+∑t=110γtdt+εit y_{it} = X'_{it}\beta + \delta {\rm male}_i + \sum^{10}_{t=1}\gamma_t d_t + \varepsilon_{it} yyyXitXitX_{it}dtdtd_tmaleimalei{\rm male}_i 现在，我担心某些协变量可能与未观察到的固定效应相关。但是，当我使用固定效应（内部）估算器或初次差异时，我失去了性别虚拟对象，因为该变量不会随时间变化。我不想使用随机效应估计器，因为我经常听到人们说它提出的假设非常不现实，不太可能成立。 有什么方法可以同时保持性别虚拟和控制固定效果？如果有办法，我是否需要对性别变量的假设检验进行聚类或照顾其他带有错误的问题？

15 hypothesis-testing  estimation  econometrics  fixed-effects-model 

我正在尝试了解Mark van der Laan的一些论文。他是伯克利大学的理论统计学家，致力于解决与机器学习显着重叠的问题。对我来说（除深层数学运算之外）一个问题是，他经常最终会使用完全不同的术语来描述熟悉的机器学习方法。他的主要概念之一是“目标最大可能性期望”。 TMLE用于分析非对照实验中的删失观测数据，即使存在混杂因素也可以进行效果评估。我强烈怀疑许多相同的概念在其他领域以其他名称存在，但是我对它的理解还不够深入，无法直接将其与任何事物匹配。 尝试将差距缩小到“计算数据分析”的方法是： 进入数据科学时代：目标学习和统计与计算数据分析的集成 这里是统计学家的简介： 基于目标最大似然的因果推断：第一部分 从第二个开始： 在本文中，我们针对多个时间点干预的因果效应开发了一种特定的针对性最大似然估计器。这涉及使用基于损失的超级学习来获得G计算公式的未知因子的初始估计，然后将目标参数特定的最佳波动函数（最不利的参数子模型）应用于每个估计因子，用最大似然估计来估计波动参数，并迭代初始因子的此更新步骤，直到收敛为止。这个迭代目标最大似然更新步骤使得因果效应的最终估计量在初始估计量是否一致的情况下也是一致的，因此具有两倍的鲁棒性，或最佳波动函数的估计值是一致的。如果正确地指定了因果图中所介入的节点的条件分布，则可以正确地指定最佳波动函数。 用他的术语来说，“超级学习”是具有理论上合理的非负加权方案的整体学习。但是他的意思是“将目标参数特定的最佳波动函数（最不利的参数子模型）应用于每个估计因子”。 或将其分为三个不同的问题，TMLE在机器学习中是否具有并行性？什么是“最不利的参数子模型”？其他领域的“波动函数”是什么？

15 mathematical-statistics  estimation  nonparametric  autocorrelation  censoring 

我想知道统计中是否曾经使用过最大似然估计。我们学习了它的概念，但我不知道它何时实际使用。如果我们假设数据的分布，我们会找到两个参数，一个用于平均值，一个用于方差，但是您实际在实际情况下使用它吗？ 有人可以告诉我一个简单的例子吗？

14 estimation  maximum-likelihood 

θ^\hat\thetaθ∗\theta^*nn‖ˆθ−θ∗‖∥θ^−θ∗∥\lVert\hat\theta-\theta^*\rVertO(1/√n)O(1/n−−√)O(1/\sqrt n)‖Eˆθ−θ∗‖∥Eθ^−θ∗∥\lVert \mathbb E\hat\theta - \theta^*\rVert‖Eˆθ−ˆθ‖∥Eθ^−θ^∥\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/√n)O(1/n−−√)O(1/\sqrt{n}) 我对具有比更快地收缩的偏差的模型感兴趣，但是其中的误差不会以这种更快的速率收缩，因为偏差仍以收缩。特别是，我想知道足够的条件来使模型的偏差以的速率收缩。O(1/√n)O(1/n−−√)O(1/\sqrt n)O(1/√n)O(1/n−−√)O(1/\sqrt n)O(1/n)O(1/n)O(1/n)

14 variance  estimation  maximum-likelihood  bias 

在某些情况下，前一个完整的多维模型的杰弗里被generaly视为不足，这是例如的情况下： （其中， ε 〜Ñ （0 ，σ 2），具有 μ和 σ未知），其中事先下面是首选（与全杰弗瑞斯现有 π （μ ，σ ）α σ - 2）： p （μ ，σ ）= π （μ ）＆CenterDot;＆π （σ ）α σ - 1yi=μ+εi,yi=μ+εi, y_i=\mu + \varepsilon_i \, , ε∼N(0,σ2)ε∼N(0,σ2)\varepsilon \sim N(0,\sigma^2)μμ\muσσ\sigmaπ(μ,σ)∝σ−2π(μ,σ)∝σ−2\pi(\mu,\sigma)\propto \sigma^{-2} 其中 π （μ ）是保持 σ固定时（以及类似的 p （σ ））获得的Jeffreys先验值。当在单独的组中处理 σ和 μ时，该先验与参考先验重合。p(μ,σ)=π(μ)⋅π(σ)∝σ−1,p(μ,σ)=π(μ)⋅π(σ)∝σ−1, p(\mu,\sigma) = \pi(\mu) …

14 distributions  bayesian  estimation  prior  jeffreys-prior 

在优惠券收集者问题的一个变体中，您不知道优惠券的数量，必须根据数据确定该数量。我将其称为幸运饼干问题： 给定未知数量的不同幸运饼干消息，通过一次采样一个cookie并计算每个幸运出现多少次来估算。还确定在此估计上获得所需置信区间所需的样本数量。nñnnñn 基本上，我需要一种算法，该算法只需采样足够的数据即可达到给定的置信区间，例如，置信度为。为简单起见，我们可以假设所有的命运都以相同的概率/频率出现，但是对于更普遍的问题而言并非如此，因此也欢迎对此提出解决方案。n±5ñ±5n \pm 595%95％95\% 这似乎类似于德国的坦克问题，但是在这种情况下，幸运饼干没有按顺序贴上标签，因此没有排序。

14 estimation  coupon-collector-problem