AI研发工程师（上海）

Job description

Responsibilities

• 参与AI 中台核心模块的架构设计与研发，包括异构算力调度、任务全生命周期管理、模型服务化及自动化训练流水线，保障平台高性能、高可用和可扩展。
• 负责大规模云边端 AI 分析任务的分布式调度与端云协同，实现任务动态分配、状态同步、故障迁移和负载均衡，保障海量设备及高并发任务稳定运行。
• 负责CPU/GPU/NPU等异构算力资源的统一纳管与智能调度，持续优化推理资源配置、任务并发及算力利用效率，降低推理成本。
• 负责模型推理服务化能力建设，集成并优化 vLLM、TensorRT、Triton 等推理引擎，支持模型版本管理、灰度发布、流量路由、A/B 测试和弹性伸缩。
• 结合业务需求制定应用、数据及系统集成方案，推动大模型及 AI 产品持续迭代，解决业务规模增长带来的性能、稳定性和扩展性问题。
• 跟踪大模型训练、推理及分布式计算等前沿技术，完成技术选型与可行性验证，推动优秀开源框架和基础设施在平台落地。

Requirements

• 具备扎实的编程基础，熟练掌握 Java、Go、Python 等至少一种主流开发语言，具备微服务、高并发及高可用系统的设计与开发经验。
• 熟悉 Kubernetes、Docker、Kafka 等云原生及分布式技术；具备 CPU、GPU、NPU 等异构算力调度或云边端任务调度经验者优先。
• 熟悉模型训练与推理服务化技术，了解 vLLM、TensorRT、Triton、Ray、Argo Workflows 等框架中的一种或多种。
• 具备扎实的数据结构、操作系统、计算机网络和分布式系统基础；熟悉 Linux 操作系统及常用命令，了解 Shell 脚本、TCP/HTTP、Socket、MySQL、Redis 等相关技术。
• 具备良好的问题分析、沟通协作和技术文档编写能力，能够协同产品、算法、研发及运营团队推动技术方案落地。