光子 AI-AI Infra工程师

Job description

Responsibilities

• 模型训练和推理平台开发；
• 研究并应用模型优化技术到训练流程和在线服务中，提高运行时性能，降低资源占用；
• 业务侧模型部署和评测；
• 团队 gpu 资源管理与调度。 Requirements
• 计算机相关专业，本科及以上学历；
• 熟悉Pytorch等主流深度学习框架，熟悉 vllm/sglang 等主流推理框架，具备模型调优及线上部署实践经验；
• 熟悉并行计算，X86、ARM等计算体系结构；
• 拥有优秀的分析和解决问题能力，具备良好的团队协作能力。