训练预算分配

[shx2005]

很有启发性的工作，想问一下您训练预算是如何分配的？看到之前的issue上提到两个阶段一共训了12days，可否问一下具体每个阶段大概用了多久？

[catchcodes]

关于训练预算的分配，我们的训练主要分为两个阶段。

Stage 1 仅训练 learnable query 和 connector，其余参数保持冻结，因此整体计算开销较小。在 16 张 GPU 的设置下，该阶段大约需要 1 天左右即可完成。

Stage 2 主要进行 GRPO 相关训练，是整体训练中计算和时间开销最大的部分，占据了绝大多数训练预算。此前提到的总计约 12 天训练时间，基本都集中在这一阶段。