AI模型适配与部署优化工程师

Job description

Responsibilities

• 负责深度学习模型在 Android、Linux及嵌入式设备上的转换、适配、部署和性能优化；
• 负责模型从 PyTorch/ONNX 到 MNN、ONNX Runtime、ncnn、QNN、RKNN、TensorRT 等后端的落地；
• 解决算子兼容、动态形状、精度偏差、量化误差、内存占用及运行时稳定性问题；
• 开展 FP32/FP16/INT8、权重量化、混合精度、图优化、算子融合及校准验证；
• 针对 CPU、GPU、NPU/HTP 等硬件进行性能分析，优化数据拷贝、内存复用、线程调度和端到端时延；
• 开发模型转换、精度对齐、性能测试和设备验收工具，建立可复现的模型交付流程；
• 与 SDK 团队协作，将模型封装为标准化 C++ 插件，并支持音频、视频、图像等实时任务。

Requirements

• 硕士及以上学历，计算机、人工智能、电子信息等相关专业；
• 熟悉 PyTorch、ONNX及常见模型导出、转换和图优化流程；
• 熟练使用 Python，具备良好的 C/C++ 工程开发能力；
• 熟悉至少一种端侧或硬件推理框架，如 TensorRT、QNN、RKNN、MNN、ncnn 或 ONNX Runtime；
• 理解卷积、Transformer、量化、张量布局、算子实现和数值精度等基础原理；
• 能使用 profiling 工具定位 CPU/GPU/NPU、内存和数据传输瓶颈；
• 具备真实设备部署、问题定位和精度/性能验收经验。 加分项
• 有 CUDA Kernel、TensorRT Plugin、ARM NEON、OpenCL或Vulkan Compute 优化经验；
• 熟悉高通 HTP/NPU、Rockchip RK3588、NVIDIA GPU/Jetson 等硬件平台；
• 有模型剪枝、蒸馏、稀疏化、PTQ/QAT 或大模型端侧部署经验；
• 有音频编解码、视频压缩、计算机视觉或流式模型部署经验；
• 能建立模型效果、精度、时延、吞吐、功耗和内存的系统化评测体系。