AI算子开发工程师

Job description

岗位职责

• 负责大模型训练、推理场景下各类基础算子的设计、开发、适配与极致优化，保障算子核心指标最优。
• 针对主流大模型，完成全链路性能分析、瓶颈定位与优化落地。
• 联动软硬件架构师，参与AI计算架构、大模型算力调度流程、算子适配方案的前瞻性调研与设计迭代。
• 主导跨团队大模型训练/推理性能瓶颈、兼容性、稳定性问题的排查与解决，沉淀标准化技术文档，推动团队算力加速体系迭代。

专业要求

• 研究生及以上学历，计算机、电子信息、微电子、软件工程等相关专业，扎实的计算机体系结构理论基础，熟悉CPU/GPU硬件架构、存储层级、并行计算、访存特性。
• 具备良好的算法与代码功底，熟悉C/C++编程，精通CUDA高性能并行编程，了解OpenCL、ROCm等异构计算架构者优先。
• 精通大模型算子开发优化，具备是大模型场景算子开发实战经验，熟练掌握算子融合、量化、分块重排、访存优化、指令级优化、KV Cache优化、FlashAttention优化等核心技术。
• 熟悉大模型全链路调优逻辑，可独立完成模型编译、显存优化、通信优化、调度优化、推理解码优化等端到端性能调优工作。
• 掌握主流大模型架构与算法，熟悉 LLaMA、Qwen、Mistral、GPT 系列主流大语言模型，以及 CLIP、ViT 等多模态大模型 的网络结构、计算特性、解码机制与并行训练逻辑。
• 熟练使用性能工具链，精通Nsight Compute、Nsight Systems、perf、火焰图、gperf、VTune等CPU/GPU性能排查工具，可精准定位计算、访存、通信、IO瓶颈。
• 熟练掌握PyTorch、PaddlePaddle任一主流框架底层机制，有框架底层算子定制、大模型专项适配、框架二次开发经验者优先。
• 具备复杂问题拆解与攻坚能力，对大模型、AI异构加速、下一代算力架构有持续探索热情，能够跟进行业新技术迭代。