Questions tagged «predictive-models»

首先是英国脱欧，现在是美国大选。许多模型预测大都偏离了，这里有教训可学吗？截至太平洋标准时间（PST）昨天下午4点，博彩市场仍以4比1的优势吸引了希拉里。 我认为，有真实货币的博彩市场应该充当那里所有可用预测模型的集合。因此，说这些模型做得并不好是不为过的。 我看到一个解释是，选民不愿将自己确定为特朗普的支持者。模型如何包含这样的效果？ 我读到的一个宏观解释是民粹主义的兴起。那么问题是统计模型如何捕获这样的宏观趋势？ 这些预测模型是否过多地强调了民意测验和情绪数据，而从该国100年的角度来看，这些数据还不够？我引用朋友的评论。

108 predictive-models  ensemble  confounding 

我希望您能想到交叉验证和自举之间的差异，以估计预测误差。 对于较小的数据集或较大的数据集，哪种方法更好？

102 cross-validation  predictive-models  bootstrap 

对于线性回归预测区间仍使用è [ ÿ | X ] = ^ β 0 + β 1 X，以产生间隔。您还可以使用它来生成E [ Y | Y的置信区间。x 0 ]。两者有什么区别？Ë^[ Y| x]= β0^+ β^1个XE^[Y|x]=β0^+β^1x\hat{E}[Y|x] = \hat{\beta_0}+\hat{\beta}_{1}xË[ Y| X0]E[Y|x0]E[Y|x_0]

80 regression  confidence-interval  predictive-models  prediction-interval 

对于模拟研究，我必须生成随机变量，这些变量显示与现有变量的预定义（填充）相关性。ÿYY 我研究了这些R软件包copula，CDVine它们可以生成具有给定依赖关系结构的随机多变量分布。但是，不可能将结果变量之一固定为现有变量。 任何想法和现有功能的链接表示赞赏！ 结论： 提出了两个有效的答案，有不同的解决方案： 一个R 脚本由卡拉卡尔，其计算与一个随机变量精确（样品）的相关性，以一个预定义的变量 我发现了一个R 函数，该函数计算与预定义变量具有定义的总体相关性的随机变量 [@ttnphns的补充：我可以自由地将问题标题从单个固定变量的情况扩展到任意数量的固定变量；即如何生成具有预定义正确性和一些固定的现有变量的变量]

71 r  correlation  random-variable  random-generation  independence  assumptions  random-variable  unbiased-estimator  regression  hypothesis-testing  heteroscedasticity  generalized-least-squares  distributions  networks  data-visualization  sas  reproducible-research  philosophical  time-series  variance  outliers  quality-control  mean  multilevel-analysis  average  weighted-mean  regression  confidence-interval  prediction-interval  correlation  matlab  matrix  data-mining  maximum-likelihood  r  time-series  survival  predictive-models 

早在4月，我参加了UMD数学系统计小组研讨会系列的演讲，主题为“解释还是预测？”。演讲由UMD史密斯商学院（Smith Business School）教授Galit Shmueli教授进行。她的演讲基于她为题为“ IS研究中的预测模型与解释性建模”的论文和名为“解释还是预测？”的后续工作论文所做的研究。。 Shmueli博士的观点是，统计建模上下文中的预测性和解释性术语已经混为一谈，而统计文献缺乏对差异的详尽讨论。在本文中，她将两者进行了对比，并讨论了它们的实际含义。我鼓励您阅读论文。 我想向从业者社区提出的问题是： 您如何定义预测性练习与解释性/描述性练习？如果您可以谈论特定的应用程序，这将很有用。 您是否曾经陷入过使用一种含义的陷阱？我当然有 您怎么知道要使用哪个？

70 predictive-models 

假设我们有一个人建立了预测模型，但是不一定有人对适当的统计或机器学习原理很精通。也许我们正在帮助那个人在学习中，或者那个人正在使用某种需要最少知识的软件包。 现在，这个人可能会很好地认识到真正的测试来自样本外数据的准确性（或其他任何度量标准）。但是，我担心的是，这里有很多微妙的问题要担心。在简单的情况下，他们建立模型并根据训练数据对其进行评估，并根据保留的测试数据对其进行评估。不幸的是，有时返回该位置并调整一些建模参数并检查相同“测试”数据的结果有时太容易了。此时，数据不再是真正的样本外数据，过拟合可能会成为问题。 解决此问题的一种可能方法是建议创建许多样本外数据集，以使每个测试数据集在使用后都可以丢弃，而根本无法再使用。但是，这需要大量的数据管理，尤其是必须在分析之前完成拆分（因此，您需要事先知道有多少拆分）。 也许更常规的方法是k倍交叉验证。但是，从某种意义上讲，我认为“训练”和“测试”数据集之间的区别会消失，特别是对于那些仍在学习的人。同样，我也不认为这对所有类型的预测模型都有意义。 有什么方法可以被我忽略，以帮助克服过度安装和测试泄漏的问题，同时仍然对没有经验的用户保持一定的了解？

60 machine-learning  classification  predictive-models  cross-validation  out-of-sample 

在哪种情况下，您是否希望在模型拟合之前缩放或标准化变量？缩放变量有哪些优点/缺点？

56 modeling  predictive-models  feature-selection  theory  standardization 

我想要执行与逻辑回归相同任务的许多算法。也就是说，可以使用一些解释变量（X）预测二进制响应（Y）的算法/模型。 如果为算法命名后，如果您还演示如何在R中实现它，我将非常高兴。这是一个可以用其他模型更新的代码： set.seed(55) n <- 100 x <- c(rnorm(n), 1+rnorm(n)) y <- c(rep(0,n), rep(1,n)) r <- glm(y~x, family=binomial) plot(y~x) abline(lm(y~x), col='red', lty=2) xx <- seq(min(x), max(x), length=100) yy <- predict(r, data.frame(x=xx), type='response') lines(xx, yy, col='blue', lwd=5, lty=2) title(main='Logistic regression with the "glm" function')

55 r  regression  logistic  classification  predictive-models 

假设您是一名社会科学研究员/计量经济学家，试图找到有关服务需求的相关预测因子。您有2个描述需求的结果/因变量（使用服务“是/否”和次数）。您有10个预测变量/独立变量，可以从理论上解释需求（例如，年龄，性别，收入，价格，种族等）。运行两个单独的多元回归将得出20个系数估计及其p值。如果回归中有足够的自变量，您迟早会发现至少一个在因变量和自变量之间具有统计显着相关性的变量。 我的问题是：如果我想在回归中包括所有自变量，则为多个测试校正p值是一个好主意吗？非常感谢对以前工作的任何引用。

54 regression  multivariate-analysis  predictive-models  multiple-regression  multiple-comparisons 

使用logistic回归，SVM，决策树，装袋和许多其他类似问题时，我们已经对不平衡数据提出了多个问题，这使它成为一个非常受欢迎的话题！不幸的是，每个问题似乎都是特定于算法的，我没有找到任何处理不平衡数据的通用准则。 引用Marc Claesen的答案之一，处理不平衡数据 （...）在很大程度上取决于学习方法。大多数通用方法都有一种（或几种）方法来解决此问题。 但是，到底什么时候我们应该担心数据不平衡？哪些算法最受它影响，哪些能够处理？我们需要哪种算法来平衡数据？我知道在像这样的问答网站上讨论每种算法都是不可能的，我宁愿寻找有关何时可能出现问题的一般准则。

52 machine-learning  classification  predictive-models  unbalanced-classes 

我想知道是否仅对因变量（无论是因变量还是自变量）还是仅对自变量进行了对数转换，在解释上是否有所不同。 考虑以下情况 log(DV) = Intercept + B1*IV + Error 我可以将IV解释为百分比增长，但是当我拥有 log(DV) = Intercept + B1*log(IV) + Error 或当我有 DV = Intercept + B1*log(IV) + Error ？

46 regression  data-transformation  interpretation  regression-coefficients  logarithm  r  dataset  stata  hypothesis-testing  contingency-tables  hypothesis-testing  statistical-significance  standard-deviation  unbiased-estimator  t-distribution  r  functional-data-analysis  maximum-likelihood  bootstrap  regression  change-point  regression  sas  hypothesis-testing  bayesian  randomness  predictive-models  nonparametric  terminology  parametric  correlation  effect-size  loess  mean  pdf  quantile-function  bioinformatics  regression  terminology  r-squared  pdf  maximum  multivariate-analysis  references  data-visualization  r  pca  r  mixed-model  lme4-nlme  distributions  probability  bayesian  prior  anova  chi-squared  binomial  generalized-linear-model  anova  repeated-measures  t-test  post-hoc  clustering  variance  probability  hypothesis-testing  references  binomial  profile-likelihood  self-study  excel  data-transformation  skewness  distributions  statistical-significance  econometrics  spatial  r  regression  anova  spss  linear-model 

我知道这是一个相当具体的R问题，但我可能正在考虑错误解释的比例方差。开始。[R2R2R^2 我正在尝试使用该R包装randomForest。我有一些训练数据和测试数据。当我拟合随机森林模型时，该randomForest函数允许您输入新的测试数据进行测试。然后，它告诉您此新数据中说明的方差百分比。当我看到这个时，我得到一个数字。 当我使用该predict()函数基于训练数据的模型拟合来预测测试数据的结果值时，并取这些值与测试数据的实际结果值之间的平方相关系数，得出一个不同的数字。这些值不匹配。 这是一些R代码来演示该问题。 # use the built in iris data data(iris) #load the randomForest library library(randomForest) # split the data into training and testing sets index <- 1:nrow(iris) trainindex <- sample(index, trunc(length(index)/2)) trainset <- iris[trainindex, ] testset <- iris[-trainindex, ] # fit a model to the training set (column …

38 r  correlation  predictive-models  random-forest  r-squared 

TL，DR：看来，与经常重复的建议相反，采用留一法交叉验证（LOO-CV），即KKK倍CV，其中KKK（折数）等于NNN（数训练观察值）-得出泛化误差的估计值，该估计值对于任何 K都是最小变量，而不是最大变量，假设模型/算法，数据集或两者都有一定的稳定性条件（我不确定哪个是正确的，因为我不太了解这种稳定性条件。KKK 有人可以清楚地说明这个稳定条件到底是什么吗？ 线性回归就是这样一种“稳定”算法，这是否真的意味着在这种情况下，就泛化误差估计的偏差和方差而言，LOO-CV严格来说是CV的最佳选择？ 传统观点认为，在K倍CV中选择KKK时要遵循偏差方差的折衷，这样较低的K值（逼近2）会导致对泛化误差的估计，这些偏差具有更悲观的偏差，但方差较小，而值较高（接近N）的K导致估计的偏差较小，但方差更大。关于这种随着K增大而增加的方差现象的常规解释可能在《统计学习的要素》（第7.10.1节）中最突出地给出：KKKKKKKKKNNNKKK 在K = N的情况下，交叉验证估计器对于真实的（预期）预测误差几乎是无偏的，但是由于N个“训练集”彼此非常相似，因此交叉验证估计器可能具有较高的方差。 这意味着NNN验证错误之间的相关性更高，因此它们的总和更具可变性。在本网站（例如，这里，这里，这里，这里，这里，这里和这里）以及各种博客等上的许多答案中都重复了这种推理方法。但是实际上，从来没有给出详细的分析，而是只是分析的直觉或简要草图。 但是，人们可以找到矛盾的陈述，通常是出于某种我不太了解的“稳定”条件。例如，这个矛盾的答案引用了2015年一篇论文的几段内容，其中包括：“对于不稳定性低的模型/建模程序，LOO通常具有最小的可变性”（强调后加）。本文（第5.2节）似乎同意，只要模型/算法“稳定” ，LOO就代表的最小变量选择。对此问题甚至采取另一种立场（推论2），该论文说：“ k倍交叉验证的方差不取决于kKKKkkkkkk”，再次引用了某种“稳定性”条件。 关于为什么LOO可能是变化最大的折CV的解释很直观，但是有一个直觉。均方误差（MSE）的最终CV估算值是每一倍MSE估算值的平均值。因此，当K增加到N时，CV估计值是随机变量数量增加的平均值。而且我们知道，均值的方差会随着变量数量的平均化而减小。因此，为了使LOO成为变化最大的K倍CV，必须确实如此，由于MSE估计之间的相关性增加而导致的方差增加要大于因平均获得的折叠次数更多而导致的方差减少。KKKKKKNNNKKK。事实并非如此，这一点也不明显。 考虑到所有这些问题后，我变得非常困惑，我决定对线性回归案例进行一些模拟。我用 = 50和3个不相关的预测变量模拟了10,000个数据集，每次使用K = 2、5、10 或50 = N的K倍CV 估计泛化误差。R代码在这里。以下是所有10,000个数据集（以MSE单位）的CV估计值的均值和方差：NNNKKKKKKNNN k = 2 k = 5 k = 10 k = n = 50 mean 1.187 1.108 1.094 1.087 variance 0.094 0.058 0.053 0.051 这些结果显示了预期的模式，即较高的值导致较小的悲观偏见，但似乎也证实了在LOO情况下CV估计的方差最低，而不是最高。KKK 因此，线性回归似乎是上述论文中提到的“稳定”情况之一，其中增加与CV估计中的减少而不是增加的方差有关。但是我仍然不明白的是：KKK “稳定”条件到底是什么？它在某种程度上适用于模型/算法，数据集，或两者都适用？ 有没有一种直观的方式来考虑这种稳定性？ …

37 regression  machine-learning  variance  cross-validation  predictive-models 

我有2个关于线性回归的简单问题： 建议什么时候标准化解释变量？ 使用标准化值进行估算后，如何预测新值（如何标准化新值）？ 一些参考会有所帮助。

37 regression  predictive-models  references  standardization  predictor 

我正在观看一家大型零售商的ML专家的演讲，他们在那里开发了一种模型来预测缺货事件。 让我们假设一下，随着时间的流逝，他们的模型变得非常精确，这是否会以某种方式“自欺欺人”？也就是说，如果模型确实运行良好，那么他们将能够预见缺货事件并避免它们，最终达到一点点，甚至根本没有缺货事件。但是，如果是这样的话，将没有足够的历史数据来运行他们的模型，或者他们的模型出轨，因为过去用来指示缺货事件的因果关系不再起作用。 处理这种情况有哪些策略？ 此外，可以预见相反的情况：例如，推荐系统可能会变成“自我实现的预言”，即使推荐项系统的输出确实驱动了这两个项目，但它们对的销量却有所增长有关。 在我看来，这两者都是某种反馈回路的结果，该回路发生在预测变量的输出与基于该反馈变量采取的操作之间。如何处理这种情况？

36 machine-learning  predictive-models