大模型小型化算法实习生

Job description

探索大模型小型化（蒸馏、量化）和推理策略（投机采样等）的前沿技术，完成在快手业务场景的落地方案。

我们有什么

• 有丰富的计算资源和mentor直接指导课题探索；
• 有大模型小型化/推理加速/MoE等最前沿的困难和挑战；
• 有大模型最全面链路的学习机会。
• 可以实习半年以上；
• 数学, 计算机, 自动化, 电子系专业硕博生；
• 有顶会论文发表经验(CV / NLP顶会, ICLR/ICML/NIPS均可)优先；
• 有较强的自驱力和学习力, 有文本生成模型(如GPT/LLaMA等)和图像生成模型(Diffusion系列)的训练及使用或开源项目经历优先；
• 有CUDA kernel或OpenAI-Triton开发经验优先；
• 了解强化学习优先。