AI 工程师（后训练方向）

负责大模型后训练分布式基础设施的架构设计与系统优化，集成训推一体调度、高性能通信与容错机制，实现千卡集群下的极致训练效率。

岗位职责

后训练框架研发与架构设计：负责构建和维护大语言模型的高效后训练底层系统框架；针对 RLHF、DPO 等复杂对齐范式，设计支持多模型协作、动态资源调度的分布式训练架构。

训推一体系统优化：针对 RLHF 中大量生成任务带来的性能瓶颈，设计并实现训练与推理混合调度系统。将 vLLM / SGLang 等高性能推理引擎与 Megatron / FSDP 训练框架深度融合，极致优化吞吐性能。

分布式通信与并行策略调优：深入剖析大规模集群下的网络拓扑；针对大模型后训练的特点，定制和优化并行策略，降低多模型切换和梯度同步的通信延迟，提升集群整体 MFU。

显存与计算极致优化：解决后训练中变长序列、多模型同驻带来的显存碎片与峰值瓶颈；优化底层算子、显存管理机制等。

大规模集群工程保障：提升千卡集群下后训练任务的稳定性，完善软硬件故障的自动化容错与恢复机制。

任职要求

计算机体系结构、软件工程、分布式计算等相关专业，本科及以上学历。

具备极强的 C++ 和 Python 编程功底；熟悉 PyTorch 框架底层 C++ 源码及执行机制；熟练掌握多线程、异步编程及高并发系统设计。

深入理解并修改过至少一种主流大模型分布式训练框架的核心源码，如 Megatron-LM、DeepSpeed、PyTorch FSDP，熟悉各类分布式并行机制。

熟悉 Ray 等分布式计算引擎（在多模型 PPO 架构中常用）；熟练掌握 NCCL 通信库底层原理，了解 GPU 硬件架构与 InfiniBand / NVLink 网络拓扑。

熟练使用 Nsight Systems / Compute、PyTorch Profiler、Perf 等工具，具备极强的性能瓶颈定位（I/O、通信、计算、显存）与系统调优能力。

熟悉当前主流的大模型推理加速框架（如 vLLM、TensorRT-LLM、LightLLM 等），理解 Continuous Batching、Paged KV-Cache 等推理优化核心技术。