学习多目标技术的资源？

我正在寻找有关可以处理具有多个目标（例如：三个因变量：2个离散变量和1个连续变量）的数据的技术的资源（书籍，讲义等）。

有人对此有任何资源/知识吗？我知道有可能为此使用神经网络。

随机森林会很好地处理它，请参阅具有多个输出的随机森林是否可能/可行？或scikit Learn的文档。我猜GBM或任何基于树的方法都可以类似的方式进行修改。

更一般而言，当您运行任何使分数最小化的学习算法时，通常会努力使一维最小化。但是您可以指定任何目标函数。如果您正在进行（二维）位置预测，则是一个很好的指标。$\sum_i(p_i-y_i)^2$$\sum_i(\hat{y}_i-y_i)^2+(\hat{x}_i-x_i)^2$

如果您具有混合类型的输出（分类和回归），则指定目标函数可能会要求您指定一个目标函数，该目标函数赋予某些目标比其他目标更大的权重：您将哪种缩放应用于连续响应？您对误分类有何损失？

至于进一步的学术阅读，

SVM结构化学习的维基百科

同时利用输出和任务结构进行多输出回归

多输出预测的地标选择方法 （处理具有高维因变量的交易）

本文很好地描述了当前的方法，可用的工具包以及要测试的数据集。

我碰巧在一个需要多目标回归的商业问题上工作，我发现Clus工具包很好地融合了高性能和鲁棒性

• 该文档非常好
• 该工具包具有用于多目标分类和回归的几种方法
• 它还支持基于规则的归纳和聚类。
• 我使用的集成模型（Bagging，RandomForest）可以轻松读取和解释。

一些较新的方法（2012年后）已实现为Mulan工具包的扩展，这是Github链接。尽管这些方法（例如随机线性目标组合）报告的性能优于集成模型，但我发现该工具包不如Clus工具包成熟，因此没有使用它们。

贝叶斯（Bayesian）解决了这类问题：混合类型的空间索引数据的贝叶斯非参数模型。多重响应元素由各种正态分布的随机向量及其链接函数处理。因此，完整的响应是法线向量，计数向量和伯努利球向量的堆栈。