网关控制器高级开发工程师

Job description

Responsibilities

1.参与 AI Gateway / Inference Gateway 的核心能力建设，包括多模型统一接入、协议适配、请求路由、负载均衡、Token 限流、语义缓存、模型治理、成本控制与智能调度等，推动传统流量网关向 AI 原生网关演进； 2.负责腾讯四/七层流量接入网关（LB / EIP / Nginx / ALB / NLB /Anycast）的管控面设计与研发，支撑多产品的设计研发、配置编排、变更发布、策略治理和高可用建设。 Requirements

• 熟悉 Linux，熟悉 Go / C++ / Python / C 至少一种语言；熟悉流量网关、云网络、负载均衡或分布式管控系统，有 LoadBalance / Nginx / Kong / Envoy 等相关经验优先；
• 熟悉 MySQL / Redis / Kafka / etcd / ClickHouse / Kubernetes 等常见基础组件；
• 有 AI 网关或大模型推理服务相关经验者优先，如 LiteLLM / Higress AI Gateway / vLLM / SGLang 等；了解大模型、Agent、MCP、Embedding、向量数据库、语义缓存、模型路由等技术；
• 有大模型推理服务的容量规划、调度策略、成本建模相关经验者优先；
• 具备良好的系统抽象、工程落地和线上问题排查能力，热爱技术，愿意探索 AI 时代的新型网关架构。