Xiaomi · 北京
顶尖实习-大模型推理加速研究员-AI平台
Listed on Xiaomi ’s official careers site. Posted October 14, 2026. Check that it is still open and apply there.
Apply on Xiaomi ’s careers site →Job description
- 参与和负责开源vllm/sglang推理引擎核心功能开发
- 负责大语言模型线上推理框架的性能优化，解决高并发、低延迟、高可靠性等核心问题，提升服务吞吐量与稳定性
- 调研并引入前沿技术，包括模型量化、蒸馏等轻量化开发
Qualifications
学历背景
- 计算机/电子/数学等相关专业硕士及以上学历
编程能力
- 精通C/C++，熟悉Python，具备扎实的数据结构与算法基础，ACM/ICPC、NOI等竞赛获奖者优先
GPU与CUDA
- 熟悉NVIDIA GPU架构及编程模型，掌握CUDA核函数优化、显存管理、多流并发等技术，有实际性能调优经验
框架与工具
- 熟悉PyTorch、Megatron、vLLM/SGLang等深度学习训练和推理框架优先
More jobs at Xiaomi
Similar jobs at other companies
AI产品经理-AI平台（Agent）方向
Tencent Holdings · Shenzhen