关于矩阵微积分的教科书?


20

请参阅Math SE上的此问题

短篇小说:我读了《统计学习的要素》,在尝试验证某些结果时感到沮丧,例如,给定 然后 我我正在寻找一本与您的传统微积分书类似的矩阵微积分书(例如,定理证明,示例,计算练习等)。我已经看过这个问题

的RSSβ=ÿ-XβŤÿ-Xβ
的RSSβ=-2XŤÿ-Xβ2的RSSβ βŤ=2XŤX
觉得马格努斯(Magnus)和诺德克(Neudecker)的文字过于注重理论,而我的温特尔(Gentle)的文字则很少关注理论,而在计算方面则过于关注。

有没有快乐的媒介可供具有本科分析背景的人访问?


4
您是否从统计学家的角度考虑了Harville的矩阵代数?前几章应该相对初级,但随后会逐渐增加。
usεr11852恢复单胞菌说,


1
我经常使用这个Wikipedia条目来查找矩阵演算问题的标识:en.wikipedia.org/wiki/Matrix_calculus
Tommy L

Answers:


9

对于大多数矩阵问题,我总是首先参考“ The Matrix Cookbook”(请参阅此处)。

由于各种来源的反馈,它会定期更新。其中包含一些证明,但是主要是作为手册使用。


3

如果您在Magnus和Neudecker的书中发现了太多的理论,我建议您也由Magnus撰写的这一理论:

阿巴迪尔(KM)和马格努斯(Magnus),JR矩阵代数剑桥大学出版社,2005年

更加强调矩阵演算的应用。


2

用户自行删除了以下有用的答案,在这里我将其完整复制以免丢失其信息:

对于ML的向量和矩阵导数,您实际上并不需要很多结果,Tom Minka的论文涵盖了其中的大部分内容,但是确定性的处理方法是Magnus&Neudecker的矩阵微分微积分及其在统计和计量经济学中的应用

实际上,Magnus&Neudecker在亚马逊上有出色的评论,汤姆·明卡(Tom Minka)的论文(《统计有用的旧矩阵代数》,2000年)包含许多有用的公式,尽管他警告说“这是高级材料”。


1

我强烈推荐斯坦福大学的这26页论文:

Zico Kolter的“ 线性代数复习和参考

它实际上专注于到处都是i和j的典型Sum计算,并告诉您相应的矩阵计算(即,使用其“向量化”实现)。

它可以帮助您立即识别出应该编写哪种类型的矩阵公式来进行计算。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.