【2027校招】大模型推理/训练优化工程师

Job description

Responsibilities

• 负责大模型分布式训练与推理引擎的加速及调优，攻克集群调度、高性能通信、混合精度及显存优化等技术难题，保障系统高效稳定。
• 跟进大模型Infra前沿趋势，在异构集群管理、并行策略、MoE及推理加速等方向进行技术攻坚，持续提升系统吞吐与资源利用率。
• 负责训练及推理场景的落地，打造高并发、低延迟服务；通过智能调度与弹性伸缩大幅降低算力成本，并构建故障自愈的高可用架构。
• 深度结合业务需求，以性能和成本等量化指标驱动技术迭代，为大模型研发实现实质性的提效降本与业务支撑。

Requirements

• 硕士及以上学历，计算机、电子信息、人工智能等相关专业，博士优先；
• 具备扎实的计算机系统基础（操作系统、计算机网络、分布式系统、编译原理等），出色的编程能力和工程实现能力；
• 熟悉常用的大模型推理引擎以及关键技术，如算子优化、模型压缩与量化、分布式并行推理、运行时优化等；
• 了解AI infra 整体技术栈，有大模型相关训练或推理优化经验；有vLLM、TensorRT-LLM、SGLang、Tensorflow、PyTorch等框架之一的实践经验。