大语言模型攻击发现与对抗技术研究

Job description

工作职责

• 深耕大模型底层原理与推理机制，开展安全攻防研究与风险挖掘；
• 系统性研究提示对抗、越狱、指令劫持等AI应用安全威胁；
• 针对对话交互与多智能体协作等形态，开展红队攻击测试与漏洞挖掘；
• 研发推理侧轻量化防御方案及智能体权限管控等对抗技术；
• 跟进前沿攻防技术，构建攻击样本库、检测模型及评测体系。 任职要求
• 获得本科及以上学历，计算机科学、网络空间安全、人工智能、自动化、数学、物理等相关专业；
• 扎实掌握大模型基础知识，熟悉相关建模工具并具备优秀的学习与应用能力；
• 在CCS、NDSS、S&P、USENIX等网络安全领域顶级学术会议有论文发表记录，或曾深度参与具有同等研究深度的科研或实践项目；
• 熟练使用AI编程及协作工具，具备较强的创新意识，能够利用AI技术快速实现能力构建；
• 具备系统化的信息安全素养与业务问题抽象能力，拥有良好的自驱力、责任心及探索精神。