AI开发工程师(省人工智能中心）

Job description

Responsibilities

• 负责AI模型从训练完成到推理上线的全链路工程化，包括模型量化压缩、API服务封装、容器化部署、推理性能调优与灰度发布，保障模型高效稳定上线；
• 参与AI大模型推理服务平台核心功能研发，包括模型服务编排、推理请求调度与负载均衡、多租户资源隔离、弹性扩缩容等模块的设计与实现；
• 负责Token服务体系建设与运营开发，包括Token计量计费、多模型路由调度、推理并发优化、缓存策略等核心能力研发，实现从裸算力到按Token交付服务能力；
• 建设Token服务运营分析体系，对Token调用量、推理延迟、算力利用率、服务成本等指标进行量化分析，识别瓶颈与优化空间，驱动平台能力迭代与定价策略优化；
• 负责AI Agent应用的工程开发，实现工具调用、任务编排、知识检索等Agent核心能力的架构设计与技术落地，支撑智能客服、智能运维等场景的Agent产品化；
• 研发RAG系统的工程化方案，包括文档解析、向量化建库、混合检索、重排序等模块，构建高质量的知识增强检索服务；
• 对接政企客户AI业务需求，协助完成模型部署方案与服务接入设计，保障推理服务可用性与客户业务稳定运行，推动AI平台运营流程标准化与自动化。

Requirements

• 熟练掌握Python/Go/Java中至少一种编程语言，代码能力扎实，有实际项目开发经验，了解设计模式与软件工程最佳实践；
• 熟悉容器化与云原生技术栈（Docker、Kubernetes、CI/CD等），了解微服务架构设计，有分布式系统开发经验者优先；
• 了解大模型推理服务基本流程，对Token计量、推理调度、模型路由等MaaS服务化技术有认知或实践经验；
• 有AI应用工程化开发经验者优先，包括大模型推理服务部署、AI Agent工程开发、RAG系统搭建、模型服务化封装等；
• 了解主流AI推理框架（如vLLM、Triton Inference Server等）及GPU/NPU推理优化技术者优先；
• 具备较强的系统思维与工程落地能力，善于从运营数据中发现问题并驱动改进，有技术方案文档化与客户沟通经验；

加分项

• 有开源项目贡献（GitHub可查）；有Token服务/MaaS平台开发经验或计费系统开发经验者优先。