让炼丹更科学一些（九）：经典自适应梯度算法
本系列前面八篇文章，都是在围绕SGD及其学习率讨论。而从本文开始，我们将正式进入自适应梯度算法的世界。可以说，现在所有的自适应梯度算法，都有一个共同的源头，那就是2011年的经典之作《Adapt...
来源与阅读说明
发布方：科学空间；作者：苏剑林。原文发布时间：2026-09-05。本文为外部知识索引，仅提供订阅源短摘要，不转载全文。完整论证、代码、图片和使用许可请查阅原文。
订阅源摘要
本系列前面八篇文章，都是在围绕SGD及其学习率讨论。而从本文开始，我们将正式进入自适应梯度算法的世界。可以说，现在所有的自适应梯度算法，都有一个共同的源头，那就是2011年的经典之作《Adapt...
建议如何学习
先确认原文使用的模型、工具版本与前置知识，再选择一个最小示例动手复现。记录输入、输出和失败原因；涉及效果或性能结论时，检查其评测条件是否适合你的场景。完成后将可复用步骤记入工作台。