单机多卡sft deepspeed zero3 训练一直卡在训练阶段

[lainxx]

一致卡在0，但是显存利用率是满的，不知道为啥

[shibing624]

zero3需要把model权重offload到本地，效率低（速度慢），可以先试试用7b的模型跑小样本测试下。