岗位描述
岗位职责
1、数据体系建设:负责大模型预训练、后训练(SFT / RLHF)阶段的数据管线设计与实现,包括数据采集、清洗、去重、质量打分、配比策略及合成数据(Synthetic Data)生成,构建高质量领域数据资产;
2、后训练算法研发:主导或参与 SFT、DPO / IPO / KTO、PPO / GRPO 等偏好对齐与强化学习后训练算法的研发与调优,提升模型在指令遵循、推理、安全性等维度的表现;
3、模型微调与蒸馏:基于 LoRA / QLoRA / 全参微调等方式完成开源基座模型(Qwen、LLaMA、DeepSeek 等)的领域适配,通过模型蒸馏、量化压缩等手段产出高性能低成本的业务模型;
4、训练工程与优化:使用 Megatron-LM / DeepSpeed / FSDP / vLLM 等框架进行大规模分布式训练与推理优化,解决显存、吞吐、稳定性等训练工程问题;
5、评测体系构建:搭建覆盖通用能力与业务场景的自动化评测基准(Benchmark),建立"数据 → 训练 → 评测 → 迭代"的闭环优化机制;
6、前沿跟踪:持续跟进 LLM 后训练、数据工程、对齐算法等领域的前沿论文与开源进展,并在业务中落地验证。
岗位要求
任职要求
1、计算机、数学、统计等相关专业硕士及以上学历,2 年以上大模型/NLP 算法研发经验(优秀应届生可放宽);
2、扎实的 Python 编程功底,熟练使用 PyTorch,深入理解 Transformer 架构及主流开源模型的实现细节;
3、熟悉至少一种大规模训练框架(Megatron-LM / DeepSpeed / FSDP),有百亿参数以上模型训练或微调实操经验者优先;
4、系统掌握 SFT、RLHF/DPO 等后训练流程,对数据质量、奖励建模、训练不稳定等问题有实际调优经验;
5、熟悉数据处理工具链(Spark / Ray / Dedup / 质量分类模型等),有大规模语料处理经验;
6、具备良好的论文阅读与复现能力,能快速将学术成果转化为工程实践;
7、责任心强,具备跨团队协作与沟通能力。
加分项
在 ACL / EMNLP / NeurIPS / ICLR 等顶会发表过大模型相关论文;
有垂直领域(代码、医疗、金融、法律、工业等)大模型从 0 到 1 的落地经验;
对主流开源社区(HuggingFace、vLLM、ms-swift、OpenRLHF 等)有代码贡献;
有 RL(PPO / GRPO)在推理模型(Reasoning Model)上的训练经验。