课程大作业

同学们可以挑选以下的题目进行大作业的编写，同时，出题的助教都是研究对应方向的硕士和博士生，大家感兴趣可以加入我们的课题组对这些题目做更深入的研究。

decode长度预测

KV cache缓存策略探索

大模型训练性能Profiling和优化

大模型训练过程中的显存换出换入探索

MoE Offloading：混合专家模型推理总的显存换入换出探索

投机解码的draft策略分析