后端开发高级工程师

Job description

Dify 平台开发与优化

• 负责 Dify 平台的私有化部署、架构扩展及源码级二次开发；开发高性能插件，集成 MCP 服务，优化工作流引擎性能；

AI 基础设施与资源调度

• 使用 Go 开发 Kubernetes CRD/Operator，实现训练/推理任务的动态资源分配；管理 GPU 算力池，优化显存切分与调度策略；

大模型网关与推理优化

• 构建 LLM Gateway，支持多模型鉴权、流式限流、计费监控及降级策略；部署并优化主流推理引擎（如 vLLM、TGI）；

国产化适配与全栈模型应用

• 推动大模型在国产硬件（如昇腾、寒武纪）上的适配与算力迁移；负责语音（TTS/ASR）、图像（Diffusion）、NLP（BERT）等模型的工程化落地；

Agent 核心引擎开发

• 设计并实现具备长期记忆、任务分解及工具调用能力的 Agent 系统；落地 ReAct 等前沿推理范式。 1、 5 年以上后端开发经验，精通 Go 语言（必须）及 Python，拥有高并发、高可用系统的设计实战经验； 2、 深度理解 容器化& Kubernetes 原理，能够编写 Custom Resources (CRD)

与控制器，熟悉底层存储与网络调优； 3、 必须具备 Dify 实际二开经验，熟悉其源码架构、API 扩展机制及插件开发流程； 4、AI 技术能力

熟悉大模型原理（Transformer、Tokenizer、SFT/RLHF）；熟悉常用模型（LLM、BERT、Stable Diffusion、Whisper/FunASR 等）；有 RAG 优化经验（向量数据库、重排序、混合搜索）； 5、了解主流国产芯片底层架构，有推理加速或算力调度平台开发背景者优先。