大模型训练工程师

职责：

1. 适配主流Dense、MoE、长上下文及多模态模型结构。

2. 建设Dense-to-Sparse、Dense-to-Quant、Continual Training和QAT流水线。

3. 负责分布式训练配置、数据处理、Checkpoint保存/恢复/转换和模型导出。

4. 建设自动化评测、回归、模型Zoo和发布资产管理。

5. 定位OOM、数值异常、Loss/梯度异常、分布式一致性和训练恢复问题。

6. 参与客户模型迁移、训练Recipe制定和POC验收。

要求：

1. 计算机、人工智能、软件工程等相关专业本科及以上，硕士优先。

2. 3年以上大模型训练、模型工程或模型评测经验。

3. 熟练使用Python、PyTorch、Hugging Face Transformers。

4. 熟悉Megatron-LM、DeepSpeed、FSDP、ZeRO及TP/PP/SP/CP中的一种或多种。

5. 有7B及以上模型训练、微调或Continual Training经验。

加分项：

有Sparse/Quant模型转换、MoE/长上下文训练、NPU适配、自动评测平台或客户模型交付经验。

6. 代码质量和实验复现意识强，能够独立定位复杂训练问题。