损失函数的全面概述？

我试图对机器学习中的一些基本思想有一个整体的认识，我想知道是否对不同的损失概念（平方，对数，铰链，代理等）进行了全面的处理。我正在按照约翰·兰福德（John Langford）关于损失函数语义学的出色文章进行更全面，正式的介绍来考虑一些问题。

该教程能源为基础的学习由LeCun等。可能会帮助您实现目标。他们描述了许多损失函数，并讨论了基于能量的模型使它们“好坏”的原因。

嗯，有这个和那个。Cramer等人的两篇论文讨论了在线学习算法中的损失。

损失函数由问题给出。可能是任何东西。例如，您还可以惩罚使用的CPU时间和空间。

在强化学习中，损失函数是未知的不确定函数。您不能在不更改问题的情况下重新定义它。

我知道这个问题有点过时了，但是我目前对此很感兴趣。

关于凸损失函数和分类器一致性的很好的论文是Tong Zhang 撰写的 “ 统计行为和基于凸风险最小化的分类方法的一致性 ”。