AI算法工程师

Job description

Responsibilities

1. 研究人工智能安全风险，设计和开发相关安全产品。

细化职责

• 复现、改进对抗提示词、对抗样本、海绵样本等人工智能新型安全风险研究，在实际场景中进行安全验证；
• 挖掘AI芯片、框架、平台等AI底座的安全漏洞，在实际场景中进行安全验证；
• 研究多模态大模型、智能体、具身智能等新兴领域的安全风险；
• 针对各类AI安全风险，提出相应的解决方案，并进行产品化开发。

了解AI安全技术，如

• 越狱攻击技术、物理对抗样本技术、数据投毒与检测技术、模型逆向技术、成员隐私推理技术等。
• 熟悉机器学习、深度学习等算法原理及实践，有实际项目经验，特别是大模型（如Transformer、BERT等）的使用经验。
• 熟练掌握Python、Tensorflow、Jupyter、Xinference等AI开发平台与工具。
• 对算法研究和开发有浓厚兴趣，具备持续学习和自我提升的能力，能够快速掌握新技术和新方法。