资深大模型训练 / 推理工程师

岗位职责

1、负责大模型预训练、SFT、RL 全链路训练系统建设与性能优化；

2、负责 LLM 推理服务的全链路性能分析、瓶颈定位与优化，能够深入理解大模型推理服务，通过极致的系统优化，在满足 SLO/SLA 要求的前提下，最大化推理系统的吞吐、降低时延，并实现成本与性能的最佳平衡；

3、负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于编译优化、模型量化等。

岗位要求

1、熟练掌握 Linux 环境下的 C/C++ 与 Python 语言，有大规模机器学习系统相关经验；

2、熟悉至少一种大模型训练 / 推理框架，包括但不限于：训练（Megatron、DeepSpeed、Swift、Verl），推理（vLLM、TensorRT-LLM、SGLang 等）；

3、具备定位和解决复杂系统性能瓶颈的丰富经验，善于运用各类性能分析工具（Perf、Nsight System 等）；

4、优秀的跨团队沟通与协作能力，能够独立负责并推进大型技术项目。

加分项

1、在主流大模型训练和推理框架（Megatron、DeepSpeed、Swift、Verl、SGLang、vLLM、TensorRT-LLM 等）有深入使用或二次开发经验者优先；

2、理解 GPU 硬件架构与 GPU 软件栈（CUDA、cuDNN），具备 GPU 性能分析经验。