[Skip to main content](#main-content)

[OpenNash Jobs](https://jobs.opennash.com/)
[Hiring report](/reports/hiring/) · [All Tencent Holdings jobs](https://jobs.opennash.com/companies/tencent-holdings/) · [Search jobs](/search/)

Tencent Holdings · Shenzhen

# 大模型推理后台开发工程师（深圳/北京/上海/杭州）

Shenzhen 

Listed on Tencent Holdings’s official careers site. Listed as of October 19, 2026. Check that it is still open and apply there.
[Apply on Tencent Holdings’s careers site →](https://careers.tencent.com/en-us/jobdesc.html?postId=1955829491829985280)

[OpenNash Jobs](https://jobs.opennash.com/) / [Tencent Holdings](https://jobs.opennash.com/companies/tencent-holdings/) / 大模型推理后台开发工程师（深圳/北京/上海/杭州）

## Job description

### Responsibilities
- 负责设计与演进业界领先的大模型在线推理平台，构建支撑亿级日调用量的高性能、高可用、高扩展的服务体系，为公司AI业务提供坚实的推理能力基座；
- 负责设计高性能推理服务架构，结合推理引擎与底层硬件的核心特性，优化动态调度、资源管理等核心后台策略，实现服务性能与成本效益的最优化；
- 负责研发标准化的推理服务框架与配套工具链，打通从模型研发、性能优化到线上部署的全链路流程，提升推理服务工程化落地效率；
- 负责构建平台的高可用架构与可观测性体系，落地故障容灾、限流熔断等核心能力，为容量规划、应急响应提供数据与技术支撑，保障服务的可靠性。 Requirements
- 具备扎实的后端研发功底，熟练掌握 Golang/C++/Python 至少一门语言，对Linux环境下的分布式系统开发与挑战有深刻理解，具备复杂业务系统的设计与落地经验；
- 具备解决大规模推理服务技术挑战的实践经验，尤其在状态感知的负载均衡、分布式推理的服务编排、长上下文管理或推理服务框架治理等方向有系统设计能力；
- 具备出色的系统性思考和问题解决能力，能够从性能、成本、稳定性的全局视角进行技术选型与架构决策；

### 具备以下一项或多项经验者优先
- 1).有AI推理平台核心模块的设计与研发经验； 2).具备vLLM等主流推理框架的服务集成与性能调优经验，并深入理解其架构原理； 3).熟悉推理请求调度机制，并具备复杂场景（文本/多模态/流式）的服务设计经验； 4).有大规模GPU推理集群治理、可观测性体系的实践经验。

## At a glance
- Posted by the employer: Not stated
- First seen by OpenNash: Jul 19, 2026
- Last checked: Oct 19, 2026
- Listed for: 92 days
- Location: Shenzhen[Apply on Tencent Holdings’s careers site →](https://careers.tencent.com/en-us/jobdesc.html?postId=1955829491829985280)

## More jobs at Tencent Holdings

### [#QQ游戏中心-发行运营#](https://jobs.opennash.com/companies/tencent-holdings/jobs/9d1cfc780fbcdb0a0a4a/)

Shenzhen

### [3D 动作游戏《狩》美术项目经理（APM）](https://jobs.opennash.com/companies/tencent-holdings/jobs/74fb431b49d65f1be30c/)

Shenzhen

### [3D动作游戏《狩》-文案策划-角色方向](https://jobs.opennash.com/companies/tencent-holdings/jobs/aefb8e04d3a158528ea5/)

Shenzhen

### [3D动作游戏《狩》-游戏运营-PC渠道运营](https://jobs.opennash.com/companies/tencent-holdings/jobs/bd0613468de8267b860a/)

Shenzhen

### [3D动作游戏《狩》-游戏运营-内容生态运营](https://jobs.opennash.com/companies/tencent-holdings/jobs/a1394d4df104126e0aac/)

Shenzhen

OpenNash lists jobs from employers’ own careers sites and does not handle applications.
Dates come from the employer where stated; “first seen” and “last checked” are our own observations.

OpenNash Jobs · Official listings with dates and links to the employer. [Weekly hiring report](/reports/hiring/) · [Methodology](/methodology/)