大模型推理引擎研发工程师

Job description

• 负责LLM大语言模型的推理优化；
• 负责机器学习引擎的编译优化工作；
• 负责模型稀疏化和模型量化工作。

岗位要求

• 熟练掌握CUDA编程、C++编程，数据结构和算法知识；
• 熟悉TVM或TensorRT或FastTransformer等推理优化框架；
• 熟悉LLM大模型相关背景知识，有相关方向的研究经验和产出。 岗位亮点
• 紧跟人工智能行业进展，接触到前沿技术和行业趋势，磨练出对人工智能的独到见解；
• 参与AI大模型的数据、训练与评测的全流程，了解从理论到工程实践的全面技能；
• 有机会参与公司的创新项目，跨足不同领域，拓宽人工智能技术的应用范围。