岗位描述
岗位职责
1)建设AI安全攻防体系,制定公司级AI智能体/大模型安全规范、标准与流程,覆盖大模型、Agent 应用全生命周期防护,并建立 AI 安全评估准入机制(上线前安全评审、风险登记、合规对齐国标及监管要求)。
2)主导 AI 安全能力平台化,建立安全护栏体系、内容安全风控、权限与工具调用管控等基础安全架构规划。
3)主导AI安全防护设计,设计大模型及AI应用(RAG、Agent、MCP 工具链、插件生态)的安全防护方案,包括提示词注入/越狱防护、数据投毒与窃取防护、模型API 滥用与蒸馏防护、供应链(开源模型/数据集)安全等。
4)参与新业务AI功能的威胁建模,输出安全设计与加固建议,并落地输入输出双向过滤、敏感信息脱敏、幻觉与有害内容检测、RBAC/最小权限与沙箱执行等防护机制。
5)负责AI 安全攻防测试,建设 AI安全攻防方法论与工具链,并组织常态化攻防演练与整改闭环,搭建自动化评测对抗数据集与评分体系。
6)开展AI安全风险运营,建立 AI 安全风险监测与应急响应,覆盖线上攻击行为检测、异常调用分析、安全事件溯源与应急处置(含大模型/AI智能体相关舆情与合规风险)。
7)探索追踪业界攻击手法与漏洞情报(CVE、越狱技术、AI 攻防论文),转化为检测规则与防御策略。
岗位要求
1)信息安全、网络安全、计算机或人工智能相关专业本科及以上学历(能力突出可放宽),5年以上网络攻防/应用安全/渗透测试经验;具备AI安全攻防经验者优先。
2)具备甲方企业AI安全攻防体系从0到1建设经验,熟悉AI安全攻防两端的技战法,能独立主导AI安全防护能力落地。
3)扎实的网络攻防基础,在Web 安全、二进制或云原生安全有实战积累,熟悉 ATT&CK、常见漏洞原理与利用。
4)熟悉LLM工作原理与 AI智能体应用架构,了解提示词注入、越狱、数据投毒、模型窃取等 AI 特有攻击面,具备企业级AI攻防或评测实践经验。
5)至少熟练Python/Go之一,能独立开发安全工具、评测框架或自动化流水线。
6)了解主流AI安全护栏/风控等方案及国内外 AI 安全标准者优先。