Answers:
这个连结包含大量的深度学习文献。在这里进行总结（最好按初学者的顺序进行）-注意：所有这些资源主要使用python。
1）首先，需要机器学习的基础知识。我发现Caltech的“从数据中学习”是网络上所有可用的机器学习课程的理想选择。
吴镇宇的Coursera课程也相当不错。
2）对于神经网络，没有人能比Patrick Winston博士更好地解释它。应该尝试分配作业以更好地理解。它们在python中。
3）为了更好地理解神经网络，Michael Nielsen应该完成的课程（由Alexey建议）。这是非常基本的，但可以。
4）对于深度神经网络，要在GPU上更快地实现它们，可以使用多种框架，例如Theano，Caffe，Pybrain，Torch等。除了这些，Theano还提供了更好的底层功能，允许其用户创建自定义NN。它是一个python库，因此能够同时使用numpy，scikit-learn，matplotlib，scipy。应该尝试使用Lisa Lab编写的深度学习教程，以更好地理解theano。
5）对于卷积神经网络，请遵循andrej karpathy的教程。
7）要进行深度学习和NLP的交流，请遵循Richard Socher的课程。
8）对于LSTM，请阅读Hochreiter，S.和Schmidhuber，J.（1997）。长期记忆。神经计算，9（8），1735-1780和Graves，Alex。用递归神经网络监督序列标记。卷 385.Springer，2012年。
这是LSTM的Theano代码。
这个主题是新事物，所以大多数智慧都散布在论文中，但是这里有两本书：
以及一些实用的材料：http : //deeplearning.net/tutorial/
神经网络和深度学习，作者：Michael Nielsen。该书仍在进行中，但看起来很有趣且很有希望。而且是免费的！这是链接：http : //neuralnetworksanddeeplearning.com/
到目前为止，只有5章，其中大多数都讨论了通常的神经网络，但是仍然值得一看。
更新：这本书已经写完了！
主要参考资料：
深度学习课程：
面向NLP：
面向视觉：
特定于工具包的教程：
还有理查德·索赫（Richard Socher）最近关于自然语言处理与深度学习的交集的博士学位论文：用于自然语言处理和计算机视觉的递归深度学习
为了理解反向传播算法的推导，我建议Ryan Harris youtube视频不那么令人生畏。您可能还会找到第二个视频。