大模型推理框架研发实习生-【可灵AI专项】

Job description

• 参与研发业内领先的低延迟、高吞吐的大模型推理优化方案，优化目标包括视频生成大模型、多模态大模型、语言大模型等；
• 参与调研并复现大模型推理优化方向最新论文，具体方向包括高性能算子开发、大模型量化、分布式大模型并行推理等；
• 参与组内服务化框架开发，提升大模型服务部署效率。
• 计算机相关专业，熟悉Linux开发环境，熟练掌握 C++/Python编程语言，熟悉常见算法与数据结构；
• 熟悉深度学习相关基础知识，了解Transformer类网络结构特点，了解常见大模型推理优化技术；
• 具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力；

加分项

• 具备CUDA编程能力、熟悉分布式大模型并行推理方案。