大模型推理优化工程师-【可灵AI专项】

Job description

1、和领域内最顶尖的算法工程师合作，一起研发业内领先的大模型推理优化方案，优化目标包括但不限于视频生成大模型、多模态大模型； 2、调研大模型推理优化方向最新论文，方向包括但不限于高性能算子开发、大模型量化、分布式大模型并行推理、投机推理等。

• 计算机相关专业，熟悉Linux开发环境，熟练掌握 Python编程语言，熟悉常见算法与数据结构；
• 熟悉深度学习相关基础知识和常见大模型推理优化技术；
• 具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力。 加分项
• 有Nvidia GPU算子开发经验者优先；
• 熟悉常见大模型并行推理方案，有使用vllm、SGlang、TensorRT-LLM、xDIT等开源框架经验者优先；
• 自驱能力强，对学习新技术有浓厚兴趣，有过快速跨领域学习新知识点，并拿到结果的经历。