人工智能安全技术研究员

【岗位职责】
1.负责AI安全技术研究，围绕大模型安全、智能体安全、AI数据安全等方向开展前沿技术跟踪与攻关；
2.开展大模型和智能体安全评测工作，建设安全评测基准和测试集，覆盖提示注入、敏感信息泄露、模型幻觉、内容安全等风险维度；
3.研究AI训练数据安全，包括训练语料合规审查、数据投毒检测、数据标注安全管控等，保障高质量数据集安全可控；
4.开展人工智能安全治理和风险监测能力建设，建设AI全栈风险治理、监测和应急能力；
5.攻关AI安全关键技术，跟踪AI安全治理政策和技术动态，输出技术研究成果和政策研究报告；
6.参与AI安全相关标准制定、课题申报和行业交流，推动研究成果转化落地。
【任职资格】
1.硕士研究生及以上学历，人工智能、信息安全、网络空间安全、计算机等相关专业；
2.具有5年及以上安全或AI相关工作经验，其中2年及以上AI安全、大模型安全或数据安全方向研究或实践经验；
3.熟悉大模型、智能体、本体基本原理，了解人工智能主要安全风险和防护手段；
4.具备AI安全评测、红队对抗、对抗样本、模型安全、AI数据安全、智能体安全等实操经验者优先；
5.熟悉AI相关法律法规和治理框架，能够独立开展AI安全合规评估；
6.拥有大模型安全评测、AI红队等实战经验，参与AI安全相关国家标准或行业标准编制，有AI企业、安全实验室或国家级科研机构工作经历者优先；
7.持有AI相关权威证书、AI安全相关竞赛获奖者优先，在AI安全、对抗机器学习等方向发表过论文或拥有专利者优先。