大模型对抗防御与可信原生安全研发

Job description

工作职责

• 负责AI系统全生命周期的原生安全防护，主导模型安全评估、提示注入（Prompt Injection）防御及数据隐私保护机制建设。
• 深入开展对抗性攻击测试，深度评估并提升核心大模型在极端条件下的鲁棒性。
• 研发安全对齐（Alignment）核心技术，构建防止模型被恶意滥用、诱导或越狱（Jailbreak）的坚固防护壁垒。
• 建立并完善AI生成内容（AIGC）的真实性检测机制与业务风险评估闭环框架。 任职要求
• 计算机科学、网络安全、人工智能等相关领域的本硕博在校生。
• 深入理解大语言模型、生成式AI的工作原理及其在真实复杂场景中的潜在安全风险。
• 具备对抗攻击、隐私计算、可信AI或AI内容检测的扎实理论功底与实战经验。
• 具备极强的责任心、严谨的代码规范意识与跨团队沟通协作能力。
• 在信息安全、机器学习等领域的顶级期刊或顶会有高水平学术论文发表经历者优先。