AI infra研发工程师(北京/深圳)

Job description

Responsibilities

1.基于自研芯片，研发高性能推理与训练框架，解决芯片落地过程中的全链路问题； 2.能根据硬件特性和AI模型特点，不断迭代和完善框架性能和易用性、持续提升推理模型整网性能，和业务一起构建自研芯片软件生态。 Requirements

• 熟悉Linux开发环境，掌握Python/C++等语言，具备良好的编程基础以及系统设计能力；
• 熟悉GPU或SIMD编程体系架构，了解LLM、AIGC等模型结构，能够使用nvpro、nsys等profiler工具；

精通主流训练推理框架和加速技术，包括但不限于

• Pytorch、Megatron、DeepSpeed、VLLM、Sglang等；
• 具有系统性分析模型性能瓶颈的能力，熟悉从算子调用，到模型训练推理，再到结果返回的功能定义和具体逻辑；
• 具备良好的技术热情和责任感，优秀的分析解决问题能力、良好的团队意识和沟通能力。