模型优化专家/工程师

Job description

岗位职责

• 负责大语言模型LLM、大视觉模型LVM等前沿生成式模型的算法研发工作，跟进业界前沿模型架构，落地创新算法方案
• 深耕生成式模型高级量化算法研发与优化，涵盖FlexRound、PrefixQuant、GPTQ、SpinQuant、AdaRound、CLE等主流INT/FP量化算法，以及自动混合精度量化技术，解决复杂生成模型量化精度损失
• 开展大模型训练与微调相关实验及算法研究，包含预训练、SFT、强化学习、损失函数设计优化，结合先进量化方法实现量化感知训练（QAT）的落地应用。
• 研发大模型高效推理算法，优化批处理、KV缓存、高效注意力机制、长上下文处理、投机解码等核心技术，提升端侧模型推理效率。
• 负责深度学习模型压缩算法研发，涵盖有损/无损压缩、结构化压缩、神经网络搜索等技术，兼顾模型精度与推理性能；
• 研究基于优化的学习算法与基于学习的优化策略，完成生成式AI算法原型搭建与系统原型验证；
• 跟进行业前沿技术，将自研算法方案转化为可落地的工程成果，推动终端设备生成式AI能力迭代升级。 任职资格

学历

• 计算机科学、计算机工程、电子信息、电气工程、信息系统等相关专业，博士优先，硕士及以上学历均可投递。
• 具备2年及以上AI算法、深度学习系统工程相关研发工作经验，有大模型、生成式AI、模型量化压缩相关项目经验者优先。
• 熟练掌握Python、PyTorch开发框架，熟悉深度学习、大模型训练微调、量化推理核心原理。
• 熟悉LLM、LVM等生成式模型架构，了解主流量化、模型压缩、高效推理算法，有相关算法落地经验者加分。
• 具备扎实的机器学习、深度学习算法功底，具备独立算法调研、实验验证、方案迭代优化能力。
• 拥有良好的跨团队协作能力，能够结合硬件特性完成算法适配与系统优化，落地端侧AI优化方案。
• 对端侧生成式AI优化有浓厚兴趣，关注行业前沿技术，具备较强的问题解决能力和创新思维。