Answers:
一旦有了预测的概率,就由您要使用的阈值决定。您可以选择阈值来优化灵敏度,特异性或在应用程序上下文中最重要的衡量指标(此处一些其他信息将有助于获得更具体的答案)。您可能需要查看ROC曲线和其他与最佳分类有关的度量。
编辑:为了澄清这个答案,我将举一个例子。真正的答案是,最佳截止值取决于分类器的哪些属性在应用程序上下文中很重要。令为观察的真实值,为预测类。一些常见的绩效衡量标准是
(1)灵敏度: -正确识别为'1'的比例。
(2)特异性: -正确标识为'0'的比例
(3)(正确)分类率: -正确的预测比例。
(1)也称为真实正利率,(2)也称为真实负利率。
例如,如果您的分类器旨在评估一种可以相对安全治愈的严重疾病的诊断测试,那么敏感性要比特异性重要得多。在另一种情况下,如果疾病相对较小并且治疗存在风险,则特异性对控制更为重要。对于一般的分类问题,共同优化灵敏度和规格被认为是“好的”-例如,您可以使用使它们与点的欧几里得距离最小的分类器:
在本申请的上下文中,可以用另一种方式对进行加权或修改,以反映距的距离的更合理度量-为说明目的,此处任意选择距(1,1)的欧几里德距离。在任何情况下,这四种措施中的所有措施都可能最合适,具体取决于应用程序。
下面是一个使用Logistic回归模型的预测进行分类的模拟示例。改变分界线以查看在这三个量度中的每一个之下,什么分界线给出了“最佳”分类器。在此示例中,数据来自具有三个预测变量的逻辑回归模型(请参见下图的R代码)。从该示例中可以看出,“最优”截止取决于这些措施中最重要的一个-这完全取决于应用程序。
编辑2: 和,正预测值和负预测值(请注意,它们是不相同的(如敏感性和特异性)也可能是有效的绩效指标。
# data y simulated from a logistic regression model
# with with three predictors, n=10000
x = matrix(rnorm(30000),10000,3)
lp = 0 + x[,1] - 1.42*x[2] + .67*x[,3] + 1.1*x[,1]*x[,2] - 1.5*x[,1]*x[,3] +2.2*x[,2]*x[,3] + x[,1]*x[,2]*x[,3]
p = 1/(1+exp(-lp))
y = runif(10000)<p
# fit a logistic regression model
mod = glm(y~x[,1]*x[,2]*x[,3],family="binomial")
# using a cutoff of cut, calculate sensitivity, specificity, and classification rate
perf = function(cut, mod, y)
{
yhat = (mod$fit>cut)
w = which(y==1)
sensitivity = mean( yhat[w] == 1 )
specificity = mean( yhat[-w] == 0 )
c.rate = mean( y==yhat )
d = cbind(sensitivity,specificity)-c(1,1)
d = sqrt( d[1]^2 + d[2]^2 )
out = t(as.matrix(c(sensitivity, specificity, c.rate,d)))
colnames(out) = c("sensitivity", "specificity", "c.rate", "distance")
return(out)
}
s = seq(.01,.99,length=1000)
OUT = matrix(0,1000,4)
for(i in 1:1000) OUT[i,]=perf(s[i],mod,y)
plot(s,OUT[,1],xlab="Cutoff",ylab="Value",cex.lab=1.5,cex.axis=1.5,ylim=c(0,1),type="l",lwd=2,axes=FALSE,col=2)
axis(1,seq(0,1,length=5),seq(0,1,length=5),cex.lab=1.5)
axis(2,seq(0,1,length=5),seq(0,1,length=5),cex.lab=1.5)
lines(s,OUT[,2],col="darkgreen",lwd=2)
lines(s,OUT[,3],col=4,lwd=2)
lines(s,OUT[,4],col="darkred",lwd=2)
box()
legend(0,.25,col=c(2,"darkgreen",4,"darkred"),lwd=c(2,2,2,2),c("Sensitivity","Specificity","Classification Rate","Distance"))