岗位描述
岗位职责
1、参与 Momenta AI 安全体系建设,面向训练数据、模型、Agent 与 AI 应用,解决真实业务中的安全、可靠性与可控性问题;
2、参与模型与 Agent 的红队测试与对抗研究:研究提示注入、越狱、数据投毒、隐私泄露、工具链提权与 Agent 滥用等风险,设计多轮、组合式的对抗攻击,并将攻击手法沉淀为可复现的评测集与自动化红队(Auto Red Teaming)能力;
3、参与可信 AI 基础设施建设:构建安全评测 Benchmark、风险检测、安全门禁与持续运营能力,实现模型安全的可度量、可回归、可门禁化;
4、参与构建 AI 攻防演练环境,研究自动化攻防对抗范式,评估模型在真实环境中的能力边界;
5、跟踪对抗攻击、模型滥用、Agent 安全、具身智能安全等前沿方向,将研究成果转化为可复用的平台能力与研发规范,并在真实业务场景中持续检验和校准研究方向。
岗位要求
1、计算机、人工智能、信息安全、网络空间安全、软件工程、数学或相关专业本科及以上学历,计算机与机器学习基础扎实;
2、对大模型安全、Agent 安全、对抗机器学习、强化学习或模型评测中的一个或多个方向有浓厚兴趣;
3、熟练掌握 Python,熟悉 PyTorch 等深度学习框架,具备将想法快速变成实验与代码的能力;
4、具备良好的实验设计与数据分析能力,能将研究想法转化为可验证、可迭代的系统能力;
5、具备良好的学习能力与团队协作意识,愿意在复杂真实场景中长期钻研 AI 安全问题。
加分项
1、有模型训练、评测、Agent 开发、自动化红队或 AI 安全研究的项目 / 实习 / 开源经历;
2、在 NeurIPS / ICML / ICLR / CCS / USENIX Security / S&P 等顶会发表过论文,或在国内外 AI 攻防类赛事中有突出表现;
3、有自动驾驶、具身智能、计算机视觉、多模态或世界模型方向的研究或工程经验;
4、在模型滥用、对抗攻击、Agent 安全等方向有论文、开源或竞赛成果。