模型压缩算法工程师

Job description

芯片适配压缩

根据NPU/GPU等芯片特性，设计量化、稀疏等压缩算法 算子优化：在自研芯片上实现和优化AI模型算子，分析性能瓶颈 工具链开发：开发芯片专用的量化压缩工具链和推理加速框架 软硬件协同：参与芯片架构设计，优化软硬件协同性能 模型部署：将压缩后模型部署到芯片平台，优化推理速度和精度 性能调优：分析芯片推理瓶颈，制定优化策略提升部署效果 前沿研究：探索芯片上的模型压缩新技术，推动算法演进 具备深度理解底层 AI 计算硬件架构（如 Nvidia Thor/Orin、地平线 J6P 等，负责 PTQ (后量化) 算法的工程化落地（如 AdaRound, BRECQ, QDrop），解决权重分布不均、离群点导致的精度损失问题。 深入分析数据敏感性与量化误差来源，探索现有量化算法（如 PTQ/QAT）的边界，提升内部工具链在压缩场景下的算法能力 ；