微信搜索-LLM大模型推理研发高级工程师-研发优化

Job description

Responsibilities

• 结合搜索业务场景，研发SLM，LLM等各类型尺寸适合的线上推理模型，保障推理引擎的性能与稳定性，降低部署成本，有效承载C端大流量访问要求，模型类型包括但不限于生成式，判别式等；
• 熟悉搜广推场景的分布式系统的基本原理（检索引擎，KV服务等），能够将通用的系统工程思想注入到大模型推理领域，系统化解决线上的工程难题；
• 紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用；
• 与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。 Requirements
• 本科及以上学历，计算机/电子/自动化/软件等相关专业，有搜广推场景下推理工程优化经验的优先；
• 熟悉Linux 开发环境、熟悉C/C++编程语言，熟练掌握常用算法和数据结构；
• 熟悉业界常用的大模型推理框架VLLM，SGLang等，熟练掌握大模型算法结构原理。