商业增值-机器学习平台引擎工程师

Job description

• 负责商增部门机器学习推理平台建设工作，支持CTR/LLM模型训练/推理优化，确保系统高效稳定。
• 负责CTR/LLM推理引擎优化，基于业界先进经验设计开发及优化CTR/LLM推理框架，支撑GR/LLM模型在外卖/到店/零售/医药等场景的业务需求。
• 负责高性能算子开发和优化，针对Transformer等结构，通过指令级优化、内存访问优化等手段，提升算子性能，充分利用硬件能力。
• 负责训练框架建设和加速优化，算法工程co-design，探索最优的训练范式。
• 负责跟进业界新技术，并赋能到业务中。
• 熟悉C++/Java/Python编程，熟练掌握多线程编程、性能调优、RPC 框架等技术，对Cuda编程有实战经验的优先;
• 深入了解至少一种深度学习框架（TensorFlow/Pytorch/Megatron/DeepSpeed/Llama-factory等），了解卡间、机间通信技术（比如NVLink、InfiniBand等），有大规模分布式训练调优经验优先；
• 具有扎实的数据结构和算法设计基础，熟悉操作系统、数据库、网络等计算级基础知识；
• 责任心强，积极主动，有良好的沟通能力和团队合作能力。

前景好

• 商业增值是公司商业变现的重点方向， 业务前景好，个人机会多；

成长快

• 完善的新人培养和融入机制，团队同学背景好技术牛，在工程架构、机器学习等多个技术方向输出创新实现，得到业界广泛认可；

挑战大

• 广告作为技术方向上明珠，能够直面具有挑战的工作，参与行业前沿解决方案的建设。