Miclaw-移动端 AI 性能专家 (Engine & Efficiency)

Job description

引擎调优

• 负责 Android/iOS、与云端 Mimo 或本地 ExecuTorch/ncnn 的底层接入与硬件加速（NPU/GPU/Metal）。

效率突破

• 实现 Speculative Decoding (投机采样) 或 Prompt Caching，在手机端将 TTFT（首包延迟）降至极致。

性能监控

• 建立全链路监控指标体系，关注 Tokens/sec、ITL (Token 间延迟) 以及 Agent 后台运行时的功耗曲线。

资源调度

• 解决多 Agent 并发请求时的资源竞争问题，防止手机卡顿或发热降频。

Qualifications

• 深厚的移动端开发功底（C++/Rust 为佳，Obj-C/Swift/Kotlin 为主）。
• 精通端侧模型量化技术（GGUF、EXL2、AWQ 等），能平衡模型精度与推理速度。
• 理解 Transformer 底层算子逻辑，有对 KV Cache 进行内存压缩或分页管理的实战经验。

硬核要求

• 能够从 Profiler 工具中定位瓶颈，并在极端网络/硬件环境下保持 Agent 请求的高稳定性。