微信安全-大模型安全工程师

Job description

安全策略研发与优化

• 参与大模型内容安全风控策略的研发落地，负责风险识别规则的配置与调优，持续跟踪策略效果并推动迭代优化；

安全技术研究与应用

• 研究大模型及智能体的安全风险，针对提示词注入、数据投毒等攻击手法开展分析与防御方案设计，推动研究成果在实际场景中落地；

红队评测与安全评估

• 参与自动化红队评测体系的建设，开发安全评估工具与测试用例，对模型安全能力进行持续评估与回归测试；

安全策略全链路运营

• 通过数据分析驱动安全策略优化，监控线上策略表现，完成策略从实验验证到灰度、全量上线的运营闭环；

安全方案落地支持

• 参与大模型安全方案的落地实施，包括Agent调用链路安全检测、模型水印与溯源技术验证等；

前沿跟踪与知识沉淀

• 持续关注大模型安全领域的技术动态与合规政策变化，参与技术调研与方案评估。 Requirements 1.计算机科学、人工智能、信息安全、网络空间安全、数学等相关专业本科及以上学历； 2.2年以上互联网内容安全、AI安全或风控策略相关经验，了解AIGC相关风险（如幻觉、合规、滥用、对抗攻击等）； 3.了解大语言模型关键技术（SFT、DPO、RAG、Agent等），有模型训练或微调经验优先；了解大模型安全攻防技术，包括提示词注入防御、安全对齐、红队测试、对抗样本等方向；具备独立完成实验验证与工程化开发的能力； 4.具备良好的逻辑思维与数据分析能力，自驱力强，善于学习新技术，能够高效协作推动方案落地。