学习率和隐藏层数之间的关系？

10

在神经网络的深度和学习率之间有经验法则吗？我注意到网络越深，学习率就必须越低。

如果正确，那为什么呢？

neural-networks  deep-learning  hyperparameter  rule-of-thumb 
— user_1177868
source
1
有关提升模型的相关讨论。stats.stackexchange.com/questions/168666/...
— 杜海涛
讨论提供了有用的信息，但没有回答我的问题。您能对此发表评论吗？
— user_1177868'9
1
是的，这就是为什么我将其置评但不回答，并支持您的问题。
— Haitao Du

Answers:

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.