锦鲤求职岗位描述
一、岗位定位
本岗位负责AI 研发平台与算力基础设施的设计、建设和持续优化，重点建设统一模型网关、GPU/NPU 资源调度、资源计量与可观测性能力，支撑大模型（LLM/多模态）及科学模型的训练、推理与评测。岗位以平台工程和算力治理为核心，并根据候选人的专业方向，与算法及基础设施团队共建分布式训练、高性能推理或算子性能优化能力。
二、岗位职责
• 算力规划与资源治理：负责算力供需测算、容量规划、配额调度和平台化落地；建立利用率、排队时间、服务级别目标SLO 达成率和每任务算力成本等指标，支持批处理错峰与资源优化。资源分配规则由业务、技术与治理团队共同定义，本岗位负责计量和平台化执行。
• 统一模型网关与服务治理：面向自研模型、开源自部署模型和外部 API，建设统一接入、鉴权、路由、配额、计量、审计日志、可观测性和故障降级能力；按照数据分级与安全策略限制外部 API 的使用范围。
• GPU/NPU 调度与平台建设：基于 Kubernetes（K8s）建设和优化 AI 任务调度能力，支持多租户、成组调度、动态扩缩容、容错重试和资源隔离；支撑数据不出域及存储隔离分区等部署形态。
• 分布式训练与推理共建：与算法团队共同建设大模型和科学模型的训练、后训练及推理能力，覆盖 SFT、强化学习、蒸馏、通信与显存优化、断点续训等场景；基于 vLLM、SGLang 等推理引擎，结合量化、推测解码等技术提升性能，并以 TTFT、TPOT/ITL、端到端时延、吞吐、和成本等指标建立容量基线。
• 评测与运行基础设施：为测试集、评分器、回归评测流水线及强化学习环境提供版本化、隔离、调度和可复现的运行底座。算法与评测团队负责评测内容和标准，本岗位负责稳定、高效的工程执行能力及运行数据沉淀。
• 性能优化与异构适配：根据候选人专长和体系建设阶段，开展 CUDA/Triton 算子优化、NVIDIA GPU 架构适配及国产 GPU、NPU 等异构算力接入，持续改善性能、稳定性和单位任务成本。
三、任职条件
• 教育背景：计算机、软件工程、电子信息、应用数学等相关专业博士学历。
• 开发语言：熟练使用 Python，并熟练掌握 C++、Go、Rust 等至少一种系统开发语言；训练、推理性能或算子方向候选人应具备较强的 C++ 能力。
• 系统基础：具备扎实的算法和数据结构基础，熟悉 Linux、分布式系统、网络与存储基础，能够使用日志、指标、链路追踪和性能分析工具定位复杂问题。
• 平台工程：熟悉 Kubernetes 和容器化技术，理解多租户、资源隔离、调度、弹性伸缩和生产环境可靠性；具有 GPU 或其他异构算力工作负载的实际工程经验。
• 成本与可靠性：具有统一 API/模型网关、资源计量、配额或可观测性系统的设计或落地经验，习惯以 SLO 达成率、每任务成本和资源利用率等指标推动平台演进。
【专业方向能力（至少深入一个方向）】
• 平台与调度：熟悉 Kubernetes AI 生态，如 Kubeflow、Volcano、KubeRay 等，具备 GPU 容器化调度和管理经验；熟悉 Slurm、LSF 等 HPC 工作负载管理系统者同样适配。
• 分布式训练与集群：熟悉 PyTorch、Megatron-LM、DeepSpeed 等框架，理解 DP、TP、PP、CP、EP 等并行策略及其组合；理解 NCCL、通信与显存优化、故障恢复和断点续训。熟悉 InfiniBand，或熟悉 RoCEv2 及 PFC、ECN 等流控与拥塞机制；了解 GPFS、JuiceFS、3FS、CephFS、Lustre 等高性能存储中的一种或多种。
• 推理与性能优化：熟悉 vLLM、SGLang 等推理引擎及量化、推测解码等优化方法，能够围绕时延、吞吐、有效吞吐和成本开展容量规划与性能调优；性能方向候选人应熟悉 CUDA/Triton、NVIDIA GPU 架构，以及 NVIDIA Nsight Compute（ncu）和 Nsight Systems（nsys）等工具。
【具备以下条件者优先】
• 有百卡及以上 GPU 集群的分布式训练、推理、调度或故障排查经验；具备千卡/万卡级集群实战经验者优先。
• 对 Transformer 算子或 FlashAttention 等关键算子有深入优化或扩展开发经验。
• 具有国产 GPU、昇腾 NPU 等异构 AI 芯片适配或混合部署经验。
• 在 PyTorch、vLLM、DeepSpeed 等开源社区有代码贡献或 Maintainer/Contributor 经历。
• 了解医药健康数据相关的安全与合规要求，或具有 CRO、医药行业 AI 平台建设经验。