大模型攻击和防御技术研究-阿里星

岗位描述
1. 负责研究大模型攻击机理，覆盖提示注入、模型越狱、知识蒸馏、思维链（CoT）窃取、数据投毒等方向，建设系统化的攻击方法论、攻击库与攻击工具链；
2. 针对各类攻击机理，设计并落地模型侧（对齐加固、鲁棒性训练）与应用侧（输入输出防护、运行时监测）防御方案，重点攻关反蒸馏与模型资产保护（输出扰动、水印、蜜罐投毒等）；
3. 构建大模型攻防评测集（攻击集 + 防御效果集），定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标，驱动攻防能力可度量、可迭代；
4. 沉淀攻防技术文档与最佳实践，跟踪学术前沿（顶会论文、开源攻击/防御项目），参与技术分享与标准共建。

岗位要求
1. 计算机科学、人工智能、信息安全或相关专业硕士及以上学历；
2. 熟悉 LLM 基本原理（Transformer、预训练/对齐、RLHF/DPO 等），理解模型能力与安全对齐的内在关系；
3. 扎实的 Python 编程能力，熟悉至少一种主流大模型框架（HuggingFace / vLLM / LangChain 等）；
4. 有安全攻防实战经验（渗透测试、漏洞挖掘、红蓝对抗之一即可）；
5. 良好的英文文献阅读能力，能独立跟踪并复现前沿研究。