岗位描述
搭建和管理GPU训练集群,优化训练性能与资源调度。
工作职责
1. 搭建和管理GPU训练集群(H100/A100级别),配置分布式训练环境
2. 优化训练性能:混合精度训练(FP16/BF16)、模型并行/数据并行策略、通信优化(NCCL调优)
3. 管理训练任务调度、资源分配和优先级策略
4. 监控训练集群健康状态(GPU利用率、显存、网络带宽),快速定位和解决硬件/软件故障
5. 研究前沿训练加速技术,持续降低训练成本和时间
岗位要求
1. 计算机相关方向本科及以上,3年以上GPU集群/高性能计算经验
2. 精通NVIDIA GPU生态(CUDA/cuDNN/NCCL),有H100/A100集群管理经验
3. 熟悉至少一种分布式训练框架(DeepSpeed/Megatron/FSDP/Horovod)
4. 熟悉Kubernetes和容器化部署,有Slurm/LSF等调度系统经验
5. 有千卡级别训练集群管理经验者优先