【2027校招】AI基础设施研发工程师

Job description

Responsibilities

• 智算基础设施开发与优化
• 负责智算AI基础设施底座的部署优化和维护，支持池化、虚拟化、训推混合、弹性伸缩调度、镜像加速等能力特性的研发
• 大小模型适配优化
• 对常用模型进行不同算力的适配优化，通过智能网关、PD分离、KVCache等能力进行推理加速
• 维护和开发vllm、sglang、vllm-ascend等推理引擎，适配新模型，优化TTFT和吞吐量
• 智能体相关场景支撑
• 支撑Agentic模型训练、微调，支撑强化学习训练场景，支撑智能体的沙箱和调度等能力研发，以及对应的状态存储、记忆管理和智能体引擎等能力的开发
• 参与以上技术产品化

形成平台能力支持客户的池化、虚拟化、大规模推理服务、大规模沙箱系统的部署、优化，开发运维工具，参与三线技术问题的解决 Requirements

• 硕士及以上学历，计算机、电子信息、软件工程、通信工程等相关专业；
• 熟悉Linux或Unix操作系统；
• 掌握计算机系统结构、操作系统内核、网络、分布式系统、算法；

至少需要在一门编程语言上达到精通的水平，包括但不仅限于

• Java、C、C++、PHP、Python、Golang；

使用过开源推理、沙箱相关组件，包括但不仅限于

• sglang、vllm、firecracker、agentenv、cubesandbox；
• 熟悉AI相关基础知识。

加分项

• 具备主流模型的算子级优化经验(CUDA开发)
• 主导过千亿万亿参数大模型的生产级部署项目
• 有大模型应用或训练推理框架开源项目的社区贡献