光子 AI-推理部署与优化研究员

Job description

Responsibilities

• 推动基于Diffusion的视频模型推理时效率优化；
• 针对消费级显卡优化推理 pipeline，目标实现端侧高效生成；
• 设计高并发推理服务，实现多模型路由与灰度发布；
• 建设端到端超低延迟管线，融合硬件加速编解码；
• 研发高效视频编码配置，适配实时流媒体协议；
• 跟踪最新加速方法，探索投机式扩散采样与训推一体优化。 Requirements
• 硕士及以上学历，系统/AI 推理或音视频流媒体方向；
• 精通 TensorRT/vLLM 等推理框架，熟悉量化、剪枝、蒸馏，有家用级显卡部署经验；
• 熟悉扩散模型推理特点，有视频模型推理优化或云游戏系统优化经验者优先；
• 精通视频编解码原理，熟练使用 ffmpeg 及硬件加速编解码 SDK；
• 熟悉实时流媒体传输协议，有低延迟音视频传输系统研发经验；
• 有 FlashAttention/FlashInfer 源码级优化经验者优先；
• 关注前沿 AI 系统研究，在系统或 AI 顶会（如 MLSys, ASPLOS, OSDI, NeurIPS 等）有推理系统架构设计、CUDA 算子级优化或大模型/扩散模型加速相关方向论文发表记录者优先。