锦鲤求职岗位描述
岗位职责
- 训练基础设施搭建与运维：负责大规模 GPU 集群上的训练环境搭建与维护，包括训练框架（Megatron-LM / DeepSpeed / NeMo / FSDP）的部署、调优与二次开发，支撑千亿级参数模型的预训练与全参数后训练。
- 分布式训练优化：设计并落地 3D 并行（数据/张量/流水线）、ZeRO、专家并行（MoE EP）等方案，解决大规模集群下的显存瓶颈、通信开销与计算效率问题，持续提升训练吞吐（MFU）。
- 训练稳定性与容错：建设 checkpoint 自动保存/续跑、故障检测与自动恢复、loss spike 监控等机制，保障长周期训练任务的稳定性，最大化集群有效利用率。
- 推理与部署基础设施（非必需，加分）：基于 vLLM / SGLang 等搭建高并发推理服务，负责量化、KV cache 优化、批处理调度等推理加速，在保证效果的前提下持续压低线上 serving 成本与延迟。
- 数据处理基础设施：搭建大规模数据处理流水线（Spark / Ray 等），支撑 TB~PB 级训练数据的清洗、去重、配比与高效加载。
- 工具链与可复现性：建设实验管理（如 wandb）、配置管理、环境镜像与一键复现流程，提升整个团队的研发效率。
岗位要求
- 分布式训练实战：熟练掌握 Megatron-LM / DeepSpeed / FSDP 等至少一种分布式训练框架，有大模型预训练或全参微调的实际落地经验，理解 3D 并行与显存优化原理。
- 工程能力：优秀的 Python 编程能力，熟悉 Linux、容器化（Docker / K8s）、集群调度（Slurm 等）；具备良好的代码规范与排查复杂问题的能力。
- 系统性能意识：熟悉 GPU 体系结构与训练/推理的性能瓶颈，会用 Nsight、PyTorch Profiler 等工具做性能分析与优化。
- 协作与推动力：能与算法、数据团队紧密配合，主动定位并解决卡点，推动基础设施持续演进。