微信安全-大模型安全算法工程师

Job description

Responsibilities

• 参与大模型（文本 / 多模态 / Agent）安全防御算法的研发，提升内容安全机审效果与可信模型的内生安全能力；
• 探索 SFT/DPO/RL等算法，探索多目标奖励模型、过程监督、跨模态对齐等前沿技术在大模型安全领域的应用，应对大模型场景新型安全威胁；
• 推动大模型安全算法的应用落地，保障微信业务场景下大模型安全算法体系的性能与效果；
• 持续跟踪业界前沿算法工作，评估新技术的应用潜力，推动新技术在安全场景下的探索和应用。 Requirements
• 硕士及以上学历，计算机/人工智能/网络安全相关专业，熟悉大模型架构；
• 具备扎实的编程基础，熟练掌握 Python等编程语言，熟悉深度学习框架（PyTorch/TensorFlow），熟悉大模型训推框架（Megatron/Deepspeed/vLLM）；
• 熟悉大模型训练、评估、优化以及 agent 技术，有相关研究或项目经验；
• 具备内容安全 / 大模型安全 / Agent 安全项目经验，熟悉对抗、prompt 防护、内生安全对齐等技术者优先；
• 良好的沟通以及团队协作能力，对大模型技术有强烈的兴趣和热情，愿意不断探索新技术。具备 AI /安全相关研究 / 竞赛 / 顶会论文经历者优先。