GPU服务器运维工程师

岗位职责

负责GPU算力集群性能测试、基准测试、稳定性压力测试，覆盖大模型推理、模型训练、NCCL 通信、多卡互连、GPU‑CPU 协同等场景，输出完整压测报告与性能瓶颈定位。

搭建、维护 GPU 压测测试环境，设计压测方案，编写自动化压测脚本，开展长时间稳定性、满负载、极限并发、故障注入类测试。

分析 GPU 相关性能指标：GPU 利用率、显存、功耗、PCIe/IB 带宽、延迟、吞吐、报错 Xid、CUDA 报错、NCCL 报错等，定位性能衰减、卡顿、掉卡、通信异常等根因。

对接算法、集群运维团队，针对大模型训练、推理业务，给出硬件选型、参数调优、集群部署优化建议。

沉淀压测工具集、测试用例、性能基线，输出测试文档，协助完善 GPU 集群验收标准。

跟进 GPU 驱动、CUDA、NCCL、容器环境、RDMA/IB 网络问题，复现问题、收集日志，协同解决软硬件兼容故障。

任职要求

本科及以上学历，计算机、电子信息等相关专业，3 年及以上 GPU 集群压测 / 性能测试经验，熟悉 NVIDIA GPU 硬件优先。

熟练使用 Linux，会 Shell/Python 编写压测自动化脚本，熟悉 Docker/Containerd 容器环境。

熟悉 GPU 基础性能工具：nvidia‑smi、dcgmi、nvprof、nsys、nvidia‑dcgm；有 NCCL 性能测试、多卡互连压测实操经验。

了解大模型训练 / 推理基础概念，做过 LLM 推理压测、分布式训练压测者优先。

了解系统日志、GPU Xid 报错、CUDA 堆栈，具备性能瓶颈分析定位能力。

了解高速网络：InfiniBand/RDMA、400G、800G 以太网，熟悉多机多卡通信问题排查优先。

具备良好文档能力，可独立输出完整压测方案、测试报告，善于复盘总结问题。

加分项

有 GPU 集群验收、硬件选型评估经验。

熟悉 vLLM/TensorRT‑LLM 等推理框架压测。

熟悉 Cilium、高性能网络、存储对 GPU 业务影响。

了解 Ansible 等自动化运维工具。