【LongCat实习】Longcat 大模型研究员-Interpretability

Job description

现阶段，大模型已逐步从虚拟世界的聊天机器人走向更复杂的实际生产场景，这要求我们对模型的行为机制具备足够清晰的认知。为此，我们需要对模型进行细粒度的分析，从而制定更优的训练方案，进一步提升模型在真实生产环境中的可用性。

机制可解释性研究

• 负责大语言模型及多模态大模型的可解释性研究，围绕模型内部表征、神经元特征、注意力机制、激活模式、训练动态及行为形成机制开展系统性分析。

内部计算机制逆向分析

• 运用 Sparse Representation、Feature Decomposition、Activation Patching、Representation Engineering 等前沿方法，逆向解析模型在知识存储、逻辑推理、指令遵循、工具调用、安全拒答及不确定性表达等能力背后的计算机制。

可解释性平台与评测构建

• 构建面向大规模模型的可解释性实验平台与评测工具，将模型行为问题精准回溯至训练数据、训练目标及内部机制层面，并将研究成果直接应用于提升模型的可靠性、安全性、可控性及对齐（Alignment）能力。 【为什么是我们】
• 团队扁平，人才密度高，美团“顶尖人才计划”比例高，近年团队在ICLR、NeurIPS、ICML、ACL等顶会累计发表论文数十篇，团队员工获EMNLP/ACL等Outstanding Paper；
• 参与大语言模型核心技术研发，接触大规模RL、超长上下文、分布式训练和推理优化等前沿技术；
• 充足算力保障，拥有大规模分布式训练环境和丰富数据资源。 【必要项】
• 来自全球Top高校计算机科学、人工智能、数学、物理或相关领域；
• 在大模型领域有研究基础，或参与过有影响力的开源项目，在ICLR/NeurIPS/ICML/ACL等顶会发表论文；
• 具备扎实的算法和数学理论基础及良好的编程基础，熟悉自然语言处理、生成式AI和机器学习等技术，对技术开发及应用有热情。 【加分项】
• 目标感强，善于分析和发现问题，拆解简化，有想法并乐于挑战自我，能够从日常工作中发现新的空间；
• 条理性强且有推动力，能够梳理繁杂的工作并建立有效机制，推动上下游配合完成目标；
• 在程序设计竞赛，如ACM/ICPC、Topcoder和Codeforces等，取得优异成绩者优先。