有没有办法解释来自随机森林模型的预测？

假设我有一个基于随机森林的预测分类模型（使用R中的randomForest包）。我想对其进行设置，以便最终用户可以指定要为其生成预测的项目，并且它将输出分类可能性。到目前为止，没有问题。

但是能够输出诸如可变重要性图之类的东西，但对于要预测的特定项目而不是训练集，将是有用/很酷的。就像是：

预计X项是狗（可能性为73％），
因为：
腿= 4
呼吸=不良
毛皮=短
食=讨厌

你明白了。是否存在从受过训练的随机森林中提取此信息的标准或至少合理的方法？如果是这样，是否有人有代码可以对randomForest软件包执行此操作？

第一个想法只是从可变的重要性模仿淘汰策略，并测试混合每个属性如何降低森林在对象分类中的置信度（在OOB上以及明显地重复）。这需要一些编码，但是肯定是可以实现的。

但是，我觉得这是个坏主意-结果可能会像地狱（对对象进行平均而不会产生稳定的影响），嘈杂（对于不太自信的对象，胡说八道的属性可能会产生重大影响）这样的变量解释（两个或多个属性合作规则可能会导致每个贡献属性的随机影响）。

不要给您一个否定的答案，我宁愿尝试看看邻近矩阵及其可能显示的原型-这似乎更加稳定和直接。

我会尝试使用石灰框架。

它适用于许多模型（包括随机森林）。它可用于局部解释（即解释单个预测）或全局解释（即解释整个模型）。

从抽象报价

在这项工作中，我们提出了LIME，这是一种新颖的解释技术，通过学习围绕预测的局部可解释模型，以一种可解释且忠实的方式解释任何分类器的预测。我们还提出了一种方法来解释模型，方法是通过以非冗余方式呈现代表性的单个预测及其解释，将任务框架化为次模块化优化问题。

它具有用于R和python的软件包，如果您用google搜索，也有很多示例。