Aigc推理系统开发实习生

Job description

如果你对 AIGC 充满热情，不满足于仅仅调用 API，而是渴望深入到底层，亲手让 Stable Diffusion、Flux 等前沿模型跑得更快、更稳、更省，欢迎加入我们！在这里，你将直接参与构建下一代高性能推理引擎，用代码定义生成的速度。

推理引擎开发与优化

• 参与 Diffusion 模型推理引擎的核心模块开发，学习并实践 CUDA 编程、算子优化与内存管理。协助将最新的学术优化手段（如 Flash Attention、Fused Kernels）落地到生产环境，提升模型推理速度；

模型压缩与加速

• 调研并实践模型压缩技术，包括 量化、蒸馏 和剪枝。参与将 FP16/BF16 模型转换为 INT8/FP8 格式，并在保证生成质量的前提下优化推理延迟；

网关与服务化系统建设

• 参与 AIGC 网关系统的后端开发，设计高并发、低延迟的请求调度逻辑。协助构建模型服务化接口，解决大规模推理请求下的队列管理与资源调度问题。
• 计算机科学、人工智能、数学或相关专业本科及以上学历；
• 具备扎实的计算机基础知识，熟练掌握数据结构、算法、操作系统及计算机网络原理；
• 熟练使用 Python 或 C++ 编程，代码风格良好，具备较强的 Debug 能力；
• 熟悉 PyTorch 等深度学习框架，理解计算图、反向传播等基本原理；
• 了解 Diffusion 模型（如 DDPM, Stable Diffusion, DiT 架构）的基本原理者优先。

高性能计算

• 了解 CUDA 编程，有 TensorRT、Triton Inference Server 或 cutlass 使用经验；

模型优化

• 有模型量化（GPTQ, AWQ）、蒸馏或 Attention 优化相关的项目或论文经验；

系统开发

• 熟悉 Golang，有高并发后端服务或微服务网关开发经验；

开源贡献

• 在 GitHub 上有高质量开源项目贡献，或复现过 Diffusion 相关论文。