岗位描述
职位介绍
我们正在寻找一位专注于AI系统全栈安全的研究专家,负责从底层基础设施到上层Agent应用的全链路安全研究,构建下一代AI原生安全防御体系。
核心职责
1、AI基础设施安全:研究LLM训练框架、推理引擎、MLOps平台的安全漏洞,开发针对GPU集群、模型仓库的攻击检测与防御方案;
2、开展对抗样本攻击、模型窃取、数据投毒、后门植入等攻防研究,构建模型安全评测体系与红队测试工具链;
3、研究多Agent协作架构中的权限逃逸、工具滥用、提示注入、记忆篡改等新型攻击向量,设计Agent行为监控与沙箱隔离机制
4、持续跟进AI安全领域最新研究成果(如越狱攻击、思维链操控、多模态安全等),输出技术报告并转化为内部防御能力。
任职要求
学历与经验(满足其一即可)
1、计算机科学、人工智能、信息安全等相关专业在校博士生或优秀硕士生,研究方向为AI安全(包括但不限于:对抗机器学习、模型可解释性与安全、AI系统可信计算、大模型安全对齐等)或具备1年以上AI安全领域研究经验(可来自学术界或工业界),有独立开展研究项目并完成成果发表/落地的经历;
2、深入理解深度学习原理,熟练掌握PyTorch/TensorFlow等框架,具备模型训练与微调实战经验;
3、熟悉主流LLM架构(Transformer、MoE等)及Agent框架(ReAct、AutoGPT、LangChain等),理解其安全脆弱点;
4、具备扎实的安全研究功底,熟悉漏洞挖掘、渗透测试方法论,能将传统安全思维与AI特性结合;
5、优秀的代码能力(Python/C++),熟悉AI工程化部署流程(容器化、K8s、模型服务化)。
加分项:
在NeurIPS、ICML、S&P、CCS等顶会发表AI安全相关论文;
拥有CVE编号或参与过知名AI系统漏洞挖掘项目;
熟悉差分隐私、联邦学习、模型水印等安全增强技术;
具备多模态大模型(VLM)或具身智能安全研究经验。