数学家机器学习入门

从某种意义上讲，这是我的math.stackexchange的交叉点，并且我觉得此网站可能会吸引广泛的受众。

我正在寻找关于机器学习的数学入门。特别是，可以找到的许多文献相对不准确，花费了很多页面而没有任何内容。

但是，从这些文献开始，我从安德鲁·伍（Andrew Ng），毕晓普（Bishop）关于模式识别的书以及斯莫拉（Smola）书中发现了Coursera课程。不幸的是，斯莫拉的书只是处于草稿状态。在Smola的书中甚至可以找到证明，这吸引了我。Bishop的书已经相当不错了，但是缺少一些严格的知识。

简而言之：我正在寻找一本类似Smola的书，即尽可能精确和严格，并使用数学背景（尽管简短的介绍当然可以）。

有什么建议吗？

对于您的描述，我强烈建议Mohri等人撰写的“机器学习基础”。这是一个本科生的文字，但它是针对真正的优秀本科生的。它可读性强，是我发现机器学习（pac和弱pac）的数学定义的唯一地方。仅仅因为这个原因值得阅读。我也有数学博士。我熟悉并且喜欢上面提到的许多书。我特别喜欢ESL广泛的技术和思想，但这是一本包含大量数学的统计书。

我会推荐统计学习要素（免费PDF文件）。它具有足够的数学知识，并且很好地介绍了所有相关技术-以及对这些技术为何有效（以及何时无效）的一些见解。

另请参阅《统计学习入门》（这更实用-如何在R中进行操作）。它有一门进行统计学习的课程; 您可能会在YouTube上找到这些讲座（以及免费的PDF）。

您可能会喜欢Schölkopf和Smola的《与内核一起学习》。Schölkopf的大部分工作在数学上都很严格。

也就是说，您最好阅读研究论文而不是教科书。研究论文中包含完整的推导和收敛性证明，性能界限等，而教科书中通常没有包括。机器学习杂志（Journal of Machine Learning）是一个很好的起点，该杂志受到高度重视并且完全开放。我还建议会议的会议记录，例如ICML，NIPS，COLT和IJCNN。

我建议由Shai Shalev-Shwartz撰写的《理解机器学习：从理论到算法》。我承认我只读了其中的一小部分，但是我立即注意到作者处理每个问题和讨论都十分严格。