我正在研究使用套索作为选择特征并将预测模型与二值目标拟合的方法。以下是我正在尝试使用正则化逻辑回归的方法的一些代码。 我的问题是我得到一组“重要”变量，但是我能够对这些变量进行排序以估计每个变量的相对重要性吗？为此，可以通过绝对值对系数进行标准化（我知道它们通过coef函数以原始可变比例显示）？如果是这样，如何进行（使用x和y的标准偏差）标准化回归系数。 样本代码： library(glmnet) #data comes from #http://archive.ics.uci.edu/ml/datasets/Breast+Cancer+Wisconsin+(Diagnostic) datasetTest <- read.csv('C:/Documents and Settings/E997608/Desktop/wdbc.data.txt',head=FALSE) #appears to use the first level as the target success datasetTest$V2<-as.factor(ifelse(as.character(datasetTest$V2)=="M","0","1")) #cross validation to find optimal lambda #using the lasso because alpha=1 cv.result<-cv.glmnet( x=as.matrix(dataset[,3:ncol(datasetTest)]), y=datasetTest[,2], family="binomial", nfolds=10, type.measure="deviance", alpha=1 ) #values of lambda used histogram(cv.result$lambda) #plot of …
这是我在StackExchange上的第一篇文章，但是我已经将它用作一种资源已经有一段时间了，我将尽我所能来使用适当的格式并进行适当的编辑。另外，这是一个多部分的问题。我不确定是否应该将问题分为几个不同的帖子，或者只是一个。由于所有问题均来自同一文本的一个部分，因此我认为将其发布为一个问题更为相关。 我正在研究大型哺乳动物物种的栖息地用途，以作为硕士论文。该项目的目的是为森林管理者（最有可能不是统计学家）提供一个实用的框架，以评估他们管理的与该物种有关的土地上的栖息地质量。这种动物相对难以捉摸，是栖息地专家，通常位于偏远地区。关于物种的分布，尤其是在季节方面，进行的研究相对较少。数只动物装有GPS项圈，为期一年。从每只动物的GPS项圈数据中随机选择一百个位置（夏季50个，冬季50个）。此外，在每只动物的家园范围内随机产生50个点，以作为“可用”或“伪缺”位置。 对于每个位置，都在田间采样了几个栖息地变量（树木直径，水平覆盖物，粗糙的木屑等），并通过GIS远程采样了一些变量（海拔，道路距离，崎ness性等）。该变量除具有7个级别的1个类别变量外，大部分都是连续的。 我的目标是使用回归建模来构建资源选择函数（RSF），以对资源单元使用的相对概率进行建模。我想为动物种群（设计类型I）以及每只动物种群（设计类型III）建立一个季节性（冬季和夏季）RSF。 我正在使用R进行统计分析。 我一直在使用的主要文字是… “ Hosmer，DW，Lemeshow，S.和Sturdivant，RX2013。应用逻辑回归。Wiley，Chicester”。 Hosmer等人的大多数示例。使用STATA，我也一直在使用以下2个文本作为R的参考。 “ Crawley，MJ，2005年。统计数据：使用RJ Wiley的介绍，Chichester，西萨塞克斯郡，英格兰。” “植物，RE2012。使用R. CRC出版社，GBR，伦敦的生态和农业空间数据分析。” 我目前正在按照Hosmer等人的第4章中的步骤进行操作。进行“有目的的协变量选择”，并对该过程有一些疑问。我在下面的文字中概述了前几个步骤，以帮助回答我的问题。 步骤1：对每个自变量进行单变量分析（我使用了单变量logistic回归）。单变量检验的p值小于0.25的任何变量都应包含在第一个多变量模型中。 步骤2：拟合包含所有在步骤1中确定要包含的协变量的多变量模型，并使用其Wald统计量的p值评估每个协变量的重要性。在传统意义上不起作用的变量应予以消除，并采用新模型。应使用偏似然比检验将新的较小模型与旧的较大模型进行比较。 步骤3：将较小模型中的估计系数值与大型模型中的相应值进行比较。任何系数的幅度发生显着变化的变量都应重新添加到模型中，因为从提供需要调整模型中剩余变量影响的意义上来说，这一点很重要。循环执行步骤2和3，直到似乎所有重要变量都包含在模型中，而排除的变量在临床和/或统计学上并不重要。Hosmer等。使用“ delta-beta-hat-percent ”来衡量系数幅度的变化。他们提出了显着的变化，即> 20％的delta-beta-hat-percent。Hosmer等。将delta-beta-hat-percent定义为 。其中θ1是从较小的模型系数和β1是从较大的模型系数。Δβ^%=100θ^1−β^1β^1Δβ^%=100θ^1−β^1β^1\Delta\hat{\beta}\%=100\frac{\hat{\theta}_{1}-\hat{\beta}_{1}}{\hat{\beta}_{1}}θ^1θ^1\hat{\theta}_{1}β^1β^1\hat{\beta}_{1} 步骤4：将步骤1中未选择的每个变量一次添加到步骤3结束时获得的模型中，并通过Wald统计p值或偏似然比检验检验其重要性，如果它是分类的具有两个以上级别的变量。这一步对于识别与结果没有显着关系但在存在其他变量的情况下起重要作用的变量至关重要。我们将第4步末的模型称为主要主效应模型。 步骤5-7：我现在还没有进展，所以我暂时不做这些步骤，或者将它们保存下来以解决其他问题。 我的问题： 在第2步中，什么是传统的显着性水平，p值<0.05或更大，例如<.25？ 再次在第2步中，我要确保用于部分似然测试的R代码正确无误，并且要确保我正确解释了结果。这是我一直在做的...anova(smallmodel,largemodel,test='Chisq')如果p值显着（<0.05），则将变量添加回模型，如果不重要，则继续删除吗？ Δβ^%Δβ^%\Delta\hat{\beta}\%Δβ^%Δβ^%\Delta\hat{\beta}\% Δβ^%Δβ^%\Delta\hat{\beta}\% is correct. I have been using the following code. If there is a package that will do this for me or …