让炼丹更科学一些(十一):无调度学习率新思路
前面的多篇文章中,我们已经表明了学习率调度对终点收敛的重要性。与此同时,“无调度(Schedule-Free)学习率”一直也是训练人的理想追求:不预设学习率曲线,也不预设训练步数,训练过程随时终...
来源与阅读说明
发布方:科学空间;作者:苏剑林。原文发布时间:2026-11-09。本文为外部知识索引,仅提供订阅源短摘要,不转载全文。完整论证、代码、图片和使用许可请查阅原文。
订阅源摘要
前面的多篇文章中,我们已经表明了学习率调度对终点收敛的重要性。与此同时,“无调度(Schedule-Free)学习率”一直也是训练人的理想追求:不预设学习率曲线,也不预设训练步数,训练过程随时终...
建议如何学习
先确认原文使用的模型、工具版本与前置知识,再选择一个最小示例动手复现。记录输入、输出和失败原因;涉及效果或性能结论时,检查其评测条件是否适合你的场景。完成后将可复用步骤记入工作台。