[Skip to main content](#main-content)

[OpenNash Jobs](https://jobs.opennash.com/)
[Hiring report](/reports/hiring/) · [All Tencent Holdings jobs](https://jobs.opennash.com/companies/tencent-holdings/) · [Search jobs](/search/)

Tencent Holdings · Shenzhen

# 大模型在线服务SRE工程师（深圳/北京）

Shenzhen Software Engineering 

Listed on Tencent Holdings’s official careers site. Listed as of October 19, 2026. Check that it is still open and apply there.
[Apply on Tencent Holdings’s careers site →](https://careers.tencent.com/en-us/jobdesc.html?postId=2054748355795529728)

[OpenNash Jobs](https://jobs.opennash.com/) / [Tencent Holdings](https://jobs.opennash.com/companies/tencent-holdings/) / 大模型在线服务SRE工程师（深圳/北京）

## Job description

### Responsibilities
- 负责超大规模通用大模型服务的 SRE 体系建设，保障 AI 平台在高并发、高吞吐、复杂异构资源环境下的稳定性、可用性与服务质量；
- 负责 AI Infra 监控、可观测性、告警治理与自动化运维平台建设，构建覆盖 GPU、网络、存储、推理链路与模型服务全生命周期的智能运维体系；
- 负责线上故障快速定位、应急响应与稳定性治理，建立标准化应急预案、故障复盘与根因分析机制，持续提升系统韧性与业务连续性；
- 参与大模型训练与推理平台的部署、调优与自动化能力建设，推动 LLMOps / MLOps 工程化体系落地，提升平台交付效率与稳定性；
- 深入分析系统瓶颈与容量热点，通过数据驱动方式识别稳定性风险与性能短板，持续推动架构优化与平台演进；
- 负责 GPU / CPU / 网络 / 存储等资源利用率治理，推进模型推理加速、弹性调度与成本优化，持续提升资源效率与 ROI；
- 跟踪业界 AI 硬件与 Infra 技术演进（GPU、网络、存储、推理框架等），结合业务场景推动基础设施选型、架构升级与技术创新；
- 探索 AI Native SRE、智能 OnCall、AIOps、Agentic 运维等前沿方向，推动运维体系向智能化、自愈化与自治化演进。 Requirements
- 计算机、软件工程、网络工程等相关专业本科及以上学历，具备 3 年及以上大型互联网或 AI Infra 运维 / SRE 经验；
- 熟悉 Linux 操作系统原理，具备扎实的网络、存储、系统调优与分布式系统基础；
- 熟练掌握至少一种编程语言（Python / Go 优先），具备自动化平台、运维工具以及AI Coding 工具开发经验；
- 熟悉 Kubernetes、Docker、微服务架构及云原生技术体系，具备大规模容器平台运维经验；
- 熟悉 LLM、大模型训练 / 推理流程、AI Infra、LLMOps / MLOps 相关技术栈，理解模型服务链路与推理架构；
- 具备较强的性能分析、容量规划与故障排查能力，能够在复杂场景下快速定位并解决系统问题；
- 具备资源治理与成本优化意识，能够围绕 GPU 利用率、推理吞吐、时延与成本进行系统化优化；
- 具备优秀的跨团队协作与沟通能力，能够推动架构、平台、算法与业务团队高效协同；
- 对 AI Infra、云原生、大模型工程体系及前沿技术保持持续关注，具备快速学习与技术创新能力。

## At a glance
- Posted by the employer: Not stated
- First seen by OpenNash: Jul 19, 2026
- Last checked: Oct 19, 2026
- Listed for: 92 days
- Location: Shenzhen[Apply on Tencent Holdings’s careers site →](https://careers.tencent.com/en-us/jobdesc.html?postId=2054748355795529728)

## More jobs at Tencent Holdings

### [AI Infra 操作系统SRE工程师](https://jobs.opennash.com/companies/tencent-holdings/jobs/128fee46d5f281e97921/)

Shenzhen

### [Senior Software Engineer II](https://jobs.opennash.com/companies/tencent-holdings/jobs/fbb1bb81013e26bb1183/)

Shenzhen

### [云原生算力平台SRE工程师(深圳/北京/上海)](https://jobs.opennash.com/companies/tencent-holdings/jobs/34333270349ff6b6e907/)

Shenzhen

### [大数据 WeData 平台 SRE 工程师（深圳）](https://jobs.opennash.com/companies/tencent-holdings/jobs/42e42e36ce1de807a801/)

Shenzhen

### [大模型存储SRE工程师](https://jobs.opennash.com/companies/tencent-holdings/jobs/c45bcfac2cfc85728697/)

Shenzhen

OpenNash lists jobs from employers’ own careers sites and does not handle applications.
Dates come from the employer where stated; “first seen” and “last checked” are our own observations.

OpenNash Jobs · Official listings with dates and links to the employer. [Weekly hiring report](/reports/hiring/) · [Methodology](/methodology/)