人工智能安全治理岗

Job description

岗位职责

• AI全生命周期安全治理体系建设与落地
• 参与制定并持续迭代企业人工智能安全治理体系相关制度
• 覆盖从环境准备、数据清洗、模型训练、模型引入、部署推理、智能体应用到下线的全流程风险识别、评估与控制措施
• 推动监管要求及国家行业标准在银行的本地化落地
• AI应用安全风险评估与审计
• 负责AI项目的上线前安全评审及安全检查工作（含红蓝对抗、提示词注入测试、数据投毒测试、偏见与公平性测试等）
• 输出相关安全评估及安全检测报告
• 定期开展AI安全内外审计检查及与监管报备
• AI安全检测工具体系建设
• 参与规划、研发并持续迭代覆盖全周期的自动化安全检测工具体系
• AI安全防护能力建设
• 参与规划、研发并持续迭代AI安全防护能力建设
• AI安全事件响应与应急
• 建立AI安全事件分级响应机制
• 主导人工智能相关重大安全事件的调查与处置
• 监管沟通与行业交流
• 参与对接上级及监管机构算法备案、评估、整改等工作
• 参与相关安全标准的制定与研究 任职资格 1.、本科及以上学历，计算机、人工智能、网络安全、密码学等相关专业 2、5年以上信息安全或AI安全相关经验，其中至少3年涉及大模型/生成式AI安全治理或研究工作，具备银行、互联网、金融科技、大型制造等行业AI安全治理经验者优先 3、精通AI全生命周期安全风险（如模型投毒、提示词注入、数据投毒、成员推理等）及最新攻击与防御技术
• 熟悉国内外AI安全法规与标准（如《生成式人工智能服务安全基本要求》、NIST AI RMF、ISO 42001等）
• 具备企业级AI安全治理体系搭建经验，或参与过算法备案/评估项目 4、具备跨部门沟通、项目管理及推进能力，优秀的文档撰写能力，高度的责任心与风险敏感度 5、持有CISM、CISA、CISSP等安全认证，具备红队评估或渗透测试大模型的实战经验，发表过AI安全相关论文或文章，具备模型微调、强化学习、大规模数据清洗、多智能体编排或向量知识库构建经验，熟悉PyTorch、DeepSpeed、vLLM、Transformers、SGLang等训练、推理及智能体应用框架优先