推理引擎工程师

Job description

• 负责美团搜推各场景推理引擎架构的设计与开发，覆盖大语言模型（LLM）与搜推模型（生成式推荐/排序模型）两类场景。
• 负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长。
• 跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。
• 计算机、自动化、电子信息或相关专业本科及以上学历；
• 熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术；
• 深入理解 GPU 体系结构（SM、显存带宽、Warp 调度等），有 CUDA 编程与性能调优经验
• 熟悉主流推理框架（vLLM / TensorRT-LLM / SGLang / TensorRT 等）中至少一种的架构与源码。
• 对技术有强烈热情，具备持续学习能力和钻研精神，代码质量意识强，工作态度严谨； 具备良好的沟通协作能力和团队精神，有较强的主动性和求知欲。 1. 负责美团核心搜索推荐系统的技术架构，覆盖传统搜推和AI应用场景，业务影响力大，成长空间广阔； 2. 作为美团大规模的GPU应用场景之一，有机会深入探索异构计算领域的前沿技术，技术成长快。