AI 门道 · AI 资讯 · 学习中心 · 模型与平台 · 工具导航

让炼丹更科学一些(八):多阶段训练的学习率

上篇文章《让炼丹更科学一些(七):步长调度与权重平均》我们简单介绍了无调度(Schedule-Free)学习率的工作,它试图通过某种权重平均来替代学习率调度,实现常数学习率就可以训出最优模型的效...

来源与阅读说明

发布方:科学空间;作者:苏剑林。原文发布时间:2026-08-31。本文为外部知识索引,仅提供订阅源短摘要,不转载全文。完整论证、代码、图片和使用许可请查阅原文。

订阅源摘要

上篇文章《让炼丹更科学一些(七):步长调度与权重平均》我们简单介绍了无调度(Schedule-Free)学习率的工作,它试图通过某种权重平均来替代学习率调度,实现常数学习率就可以训出最优模型的效...

建议如何学习

先确认原文使用的模型、工具版本与前置知识,再选择一个最小示例动手复现。记录输入、输出和失败原因;涉及效果或性能结论时,检查其评测条件是否适合你的场景。完成后将可复用步骤记入工作台。

配套工具与教程

    资料来源