内容安全策略专家（AI方向）

工作职责
1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。
2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。
3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。
4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。
5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。

任职要求
1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。
2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。
3、熟悉内容安全相关法律法规及行业规范，具备敏锐的风险预判能力，能快速识别并应对大模型新型安全风险（如越狱攻击、对抗样本等）。
4、具备较强的逻辑思维、数据分析能力及跨部门沟通协调能力，能高效推动安全策略落地，具备良好的抗压能力和问题解决能力。
5、了解AI大模型安全微调等相关技术，有大模型安全体系从0到1搭建经验者优先，对AI安全领域有强烈的探索欲和责任心。