大模型中台服务后台工程师

Job description

• 大模型接入平台建设 负责构建和维护企业级大模型接入平台，支持内部业务系统快速接入 集成主流外部大模型服务（OpenAI、Claude、deepseek等）和自部署开源模型服务，提供统一的接入标准 建立完善的模型版本管理、配置管理和发布流程
• 中台服务架构设计 基于统一接口标准，构建高可用、高并发的大模型中台服务 设计实现用户权限分层管理、智能流量调度和服务降级机制 建立完善的监控告警体系，确保服务稳定性和可观测性
• Agent生态能力建设 跟踪业界Agent技术发展趋势，持续优化平台能力 设计面向未来的API架构和能力体系，支持多模态Agent应用的落地 构建Agent工具链和开发框架，提升开发效率
• 数据驱动的平台优化 建立大模型使用数据的采集、分析和可视化体系 基于用户行为和性能数据，持续优化平台架构和服务质量 制定数据驱动的产品迭代策略，提升用户体验 1. 本科及以上学历，3年以上工作经验，3年以上后端系统的开发经验； 2. 精通Java和数据结构，具有强烈的好奇心，能够发现业务中的痛点，并通过架构改进解决问题；
• 大模型平台服务入口，技术深度和挑战足够；
• 涵盖业务类型广，技术链条深度足够，技术范围广；
• 跟踪大模型领域前沿知识，获得实际的业务实施经验；
• 团队成员经验丰富，技术卓越，成长环境好；