大模型训练推理优化工程师

1. 职责：

- 负责大模型训练推理框架的研发、优化与维护，提升模型训练和推理的效率与稳定性。

- 深入理解并优化分布式训练、多维混合并行等技术，解决大模型训练中的技术难题。

- 深入理解推理加速和优化技术，根据特定的硬件平台，制定针对性的优化策略。

- 跟进业界最新动态，复现开发前沿技术。

2. 职位要求：

- 计算机科学、电子工程、人工智能或相关专业研究生及以上学历。

- 深度学习，机器学习，或者大模型方向5年以上工作经验。

- 精通深度学习框架（如PyTorch、TensorFlow等），深入理解其底层原理。

- 熟悉大模型架构（如llama，Qwen，DeepSeek系列等）。

- 熟悉大模型分布式训练框架（如Megatron-LM，DeepSpeed等），并具有开发经验。

- 熟悉大模型推理框架（如vLLM，SGLang等），具备模型量化、优化与加速经验。

- 具备扎实的编程能力，熟练掌握Python、C++等编程语言。

- 具备良好的沟通能力和团队合作精神，能够积极主动地解决问题。

3. 有以下经验者优先考虑：

- 熟悉基于JAX的深度学习框架；

- 近两年内，为开源框架贡献PR。

- 具有千亿参数模型并行训练实战经验，熟悉大模型强化学习训练。