训练损失下降但任务指标不涨，怎样联合排查蒸馏训练

蒸馏训练时，日志里的总损失一路下降，任务准确率、字段通过率或人工评分却没有变化，团队很容易把问题归到学习率或训练轮数。实际排查要把训练目标和业务指标放在同一张表里。总损失只反映优化器正在追逐的目标，任务指标才说明学生是否完成了要交付的工作。两条曲线出现分叉时，先找它们测量对象的差异，再决定要改数据、损失、评测还是部署。

我把 PyTorch 的知识蒸馏教程、NVIDIA 的蒸馏配置说明和 MaxText 的损失监控方式对照了一遍。它们都把蒸馏损失、标签损失、教师表现和验证结果分开记录。这个做法比只盯着 total loss 更容易定位问题。下面这套流程适合文本分类、结构化抽取和问答等任务，具体阈值仍要按项目定义。

先把训练日志拆成几条可解释的线

许多项目只保存一个总损失。蒸馏训练通常同时包含教师分布与学生分布之间的软损失、真实标签或参考答案对应的硬损失，有些方案还会加入中间层表示损失。它们的量纲和变化速度可能不同，总损失下降并不表示每一部分都在改善。

建议每个训练周期至少记录训练集和验证集的软损失、硬损失、总损失，教师在验证集上的结果，学生训练前基线和蒸馏后结果。结构化任务再加字段准确率、解析通过率和关键字段召回率，问答任务加事实依据、拒答边界和人工抽检。记录样本数量与切片名称，避免少量简单样本把曲线抬得很好看。

如果软损失下降而硬损失不动，学生可能在模仿教师的表达，却没有学会业务标签。如果硬损失下降而任务指标不动，常见原因是标签过于宽松，或者指标检查了训练目标没有覆盖的要求。两条都下降而线上结果不变，则要把离线脚本、服务模板和后处理放回排查范围。

还要看损失是怎样聚合的。语言模型常按有效 token 平均，结构化任务可能按样本平均。长回答含有更多 token，若直接把所有 token 放在一起，长样本会在总损失里占更大权重；若先按样本平均，短样本和长样本的影响又会不同。填充位置是否被 mask、空答案是否仍计入分母，也会改变曲线。统计口径没有写清，两个训练运行的 loss 数字就不能直接比较。

类别不均衡也会让曲线变得乐观。高频的正常样本很容易被学生学会，少数拒答、长尾字段或异常输入对总损失贡献很小。把每类样本数、每类任务指标和严重错误单独列出，才能知道模型是否只是在重复高频模式。这里不需要先规定一个通用比例，先让业务负责人说明哪些类别不能被平均数掩盖。

再看验证集，别把训练集曲线当成答案

训练损失下降只能说明模型在当前训练样本上越来越贴近目标。验证集没有同步改善，通常说明过拟合、数据泄漏、切片覆盖不足或训练目标和真实任务不一致。PyTorch 教程把验证集与最后的测试集分开，原因正是模型选择不能一直依赖同一个指标。

验证集需要按真实任务切片。长文本、低频类别、边界请求和不同来源的输入分别统计。一个总验证分数上涨，可能只是简单类别占比变高。样本量较小的切片先读完整样本，再决定是否进行比例比较。最终测试集如果参与过调参，就应在报告中标记为开发材料，不能继续宣称结果独立。

把失败样本接回训练变量

抽取一批任务指标没有改善的样本，保留输入、参考答案、教师输出、训练前学生输出和蒸馏后学生输出。教师答错时，继续压低蒸馏损失没有意义。教师正确、学生错误时，再看错误是否集中在长输入、某种格式或某个数据批次。每种模式只提出一个待验证原因，下一轮只改一个主要变量。

教师数据通过统一多模型API生成时，批次信息要和样本版本绑定。147AI公开支持一个账号建立多个API Key，并查看调用量、消耗和日志，企业可以把它作为教师调用批次的过程记录。平台记录不能替代样本审核，原始回答、清洗结果和业务判定仍由项目方保存。

用小实验判断曲线分叉的来源

第一轮实验不需要重做全部训练。固定学生、数据和评测脚本，只改变损失权重，观察软损失、硬损失和任务指标是否一起变化。第二轮可以固定配置，抽换一小批经过人工复核的目标样本，判断数据质量是否是主因。若离线指标改善、服务结果不变，就暂停训练实验，先复现线上请求。

实验结果要同时写入原回归集和本轮失败挑战集。挑战集用于确认目标错误有没有减少，回归集用于检查旧场景是否退化。一次曲线变好不能直接等同于模型可用。只有训练日志、失败样本和任务指标能够互相解释，团队才知道下一轮该继续训练还是先改评测与服务。

当训练集和验证集的损失同时下降，任务指标仍停滞，可以检查标签是否过于容易。比如大量样本的答案为空、固定字段占比很高，模型只要学会默认值就能获得不错的损失。抽样阅读每个类别的输入和答案，确认标签确实要求模型完成业务动作。若发现指标脚本只检查字段存在，不检查字段值，就先修评测，再决定是否重训。

参考资料

• PyTorch知识蒸馏教程
• NVIDIA Megatron Bridge蒸馏文档
• MaxText蒸馏指南
• Google Cloud生成式AI评测指标