结合二进制和连续响应的最佳方法


10

我正在尝试提出预测收款公司付款金额的最佳方法。付款后,因变量仅为非零。可以理解的是,由于绝大多数人无法联系到或无法偿还债务,因此存在大量的零。

债务金额和还款可能性之间也存在非常强烈的负相关关系。通常,我会创建一个逻辑模型来预测支付/不支付的可能性,但这不幸的结果是找到了余额最低的人。

有没有一种方法可以将后勤支付/非支付模型与预测支付金额的单独模型结合起来?


5
对数正态回归为零,这似乎很满足您的需求。参见本文
彼得·弗洛姆

@PeterFlom您如何看待这与gui11aume和steffen关于两阶段模型和样本选择偏见的讨论相比?
As3adTintin

1
我认为两者都可能有用。曾经有过讨论将两者进行比较,但是我忘记了在哪里阅读。
彼得·弗洛姆

我最终要做的是创建一个神经网络,该神经网络具有输出的relu激活和均方对数损失
Zelazny7

好,谢谢。神经网络/ relu激活听起来超出了我目前的知识,但是我会继续研究这些。感谢您提出原始问题和意见!
As3adTintin

Answers:


6

gui11aume建立两阶段模型的想法是正确的方法,但是,您需要考虑设置的特殊困难,即债务金额与付款可能性之间非常强烈的负相关性

在这里建立两阶段模型的主要问题是,第二个模型(用于预测债务)仅基于“非零”模型,是建立在最有可能的非随机样本上的(即整个数据集),但组合模型必须再次应用于整个总体。这意味着第二个模型将不得不对它从未见过的部分数据进行预测,从而导致准确性下降。这称为样本选择偏差(从ML角度进行概述,我推荐Smith和Elkan 提出的贝叶斯网络推理拒绝框架)。

KDD杯-98处理类似的问题,其中一个要预测一个退伍军人组织的供体是否有可能再次捐了多少,很可能捐赠。在此数据集中,再次捐款的可能性也与预期的金额负相关。样品选择偏差也出现了。

比安卡·扎德罗兹尼(Bianca Zadrozny)和查尔斯·埃尔坎(Charles Elkan)可以从“当成本和概率都不为人知的情况学习和制定决策”中找到最令我印象深刻的解决方案。他们基于Heckman校正创建了一个成本敏感的解决方案,据我所知,这是校正(样本)选择偏差的第一种系统方法。


+1您的第二段很好地突出了我的答案中缺少的内容。
gui11aume12年

这与彼得·弗洛姆(Peter Flom)提出的零膨胀对数正态回归的建议相比如何?
As3adTintin'3

3

这是一个非常好的问题(+1)。

为什么不将0视为NA?

您可以添加一个虚拟响应,以指示是否已收回任何钱(,当值为0时等于0,而当值为正时等于1),并使用相同的预测变量在此二进制响应上拟合逻辑模型。您将适合2个模型:使用所有数据点的二进制响应和仅使用非零数据点的连续响应(符合将0视为NA的想法)。

您仍然可以使用两组参数测试每个模型中参数的无效性并计算预期增益。


感谢您的建议。在提出问题之前,我已经创建了两个与您所描述的相似的因变量和数据集。您能否详细说明“仍然使参数保持无效”的含义?谢谢!
Zelazny7'7

我在文本中修正了“仍然参数无效”的错字。抱歉:-)
gui11aume12年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.