岗位描述
职责描述
• 参与大模型及多模态模型训练、后训练和推理基础设施的架构设计与研发。
• 建设分布式训练、任务调度、资源编排、实验管理、Checkpoint / Artifact 管理等系统能力。
• 优化 GPU 集群资源利用率、任务吞吐、故障恢复和训练稳定性,提升大规模训练效率。
• 建设高性能模型 Serving 能力,优化 Continuous Batching、KV Cache、并行策略、量化及推理延迟与吞吐。
• 参与模型研发全流程工具链建设,包括环境管理、版本管理、CI/CD、可观测性及自动化运维。
• 建设集群监控、Tracing、日志、告警和性能分析体系,快速定位软硬件及分布式系统问题。
• 与研究、算法及数据团队紧密协作,将新的模型架构、训练方法和推理技术快速纳入基础设施。
• 持续跟踪分布式训练、推理引擎、GPU / NPU 系统及云原生 AI Infra 技术进展。
任职要求
• 计算机、软件工程、人工智能、电子信息或相关专业。
• 具备扎实的操作系统、计算机网络、分布式系统和数据结构基础。
• 熟悉 Python、C++、Go 等至少一种语言,具备良好的系统开发与性能分析能力。
• 熟悉 PyTorch 及大模型训练或推理基本流程,对 GPU / NPU 计算、通信和显存管理有较好理解。
• 具备分布式系统、云平台、机器学习平台或 AI Infra 相关研发经验。
• 具备良好的问题定位、工程质量意识、沟通协作能力和结果导向。