Xiaomi · 北京
大模型推理优化工程师
Listed on Xiaomi ’s official careers site. Posted August 5, 2026. Check that it is still open and apply there.
Apply on Xiaomi ’s careers site →Job description
- 负责大模型的移动端部署与优化工作；
- 面向端侧算力与内存受限场景，探索高效的大模型结构与推理策略，如端侧友好的 MoE 方案、稀疏与线性注意力、长上下文推理优化等，实现模型在性能、效果与资源消耗之间的最优权衡。
- 参与大模型与芯片协同设计（Model–Chip Co-design），不断挖掘移动芯片算力潜能，实现业界领先的大模型执行效能；
- 撰写相关论文，专利。
Qualifications
- 信号处理/模式识别/人工智能等相关专业毕业，熟练使用C/C++；
- 对深度学习有深刻认识，熟悉各种神经网络及背后数学原理，熟悉各类神经网络模型的量化/压缩/性能优化方案；
- 对大模型加速优化方案有深入了解，对投机采样，GQA，MOE，Lora量化等技术有开发与优化经验者优先。
- 有vllm，sglang，Genie等云端/移动端大模型推理框架开发经验者优先；
- 有相关领域高质量会议/期刊论文，或深度参与过开源深度学习框架的开发并有相应贡献者优先。
More jobs at Xiaomi
Similar jobs at other companies
大模型推理优化工程师-【可灵AI专项】
Kuaishou Technology · Beijing, Shanghai
微信 -WeLM 大模型推理优化工程师（深圳、上海）
Tencent Holdings · Beijing
腾讯专有云-大模型推理优化工程师-深圳/北京
Tencent Holdings · Shenzhen